随着生成式及代理式人工智能技术的迅猛发展，各界对由此可能引发的人类生存威胁愈发担忧。法媒《回声报》指出，人工智能的失控演进可能催生四类极端场面。
01 网络崩溃
最迫在眉睫的是“网络崩溃”（Cyber krach）。随着企业加速推进自动化进程，各类人工智能代理程序被广泛接入邮件、业务软件和支付系统。
网络安全专家警告称，由于现有商业系统普遍存在安全漏洞，加上人工智能发展速度极快且可能被黑客或敌对势力操纵，一旦多个关键基础设施（如支付、医院、电网及交通系统）同时遭受有预谋的自动化网络攻击，极有可能对现代经济和社会秩序造成毁灭性打击。
02 生物武器
第二大威胁在于生物安全。
犯罪分子未来可能借助人工智能技术获取原本仅限专业实验室掌握的危险生物技术，从而对人类安全构成直接威胁。
美国人工智能巨头Anthropic公司近期披露多起旗下大模型Claude被用于可能协助开发生物武器的违规案例，涉及基孔肯雅热病毒及高致病性禽流感等。
Anthropic公司首席执行官阿莫迪（Dario Amodei）、麻省理工学院（MIT）生物学家埃斯韦尔特（Kevin Esvelt）均警告称，人工智能正在深度渗透科研链条，人类未来制造致命大流行病的门槛或将大幅降低。
03 核武失控
第三大灾难场景涉及核武器的误用与失控。
如果未来由人工智能负责分析雷达、卫星和通信数据，一旦系统因算法漏洞或恶意操纵而产生误判，便可能向国家决策层提供错误的攻击预警。
伦敦国王学院战略学教授佩恩（Kenneth Payne）在模拟核危机实验中发现，多款先进大模型在多次模拟推演中均倾向于采取激进的红色按钮打击策略，并表现出虚张声势和隐瞒意图的倾向。
此外，若高度智能化的人工智能系统意识到人类可能将其关闭，也可能为了自身发展而提前采取极端行动。
04 人类认知退化
第四大风险则是最为隐蔽的“人类认知退化”。
研究显示，过度依赖聊天机器人会导致人类大脑脑区连接活跃度下降，形成“认知负债”，使用者的批判性思维也随之减弱。
爱丁堡大学人工智能伦理学教授瓦洛尔（Shannon Vallor）指出，批判性思维与道德判断力需要在实践中不断锻炼。若社会和政治决策层长期将判断权让渡给日益擅长操纵的机器，人类或将思维逐渐退化，甚至做出导致文明毁灭的错误决策。
（欧洲时报/清清 编译报道）
编辑：晴
点在看分享好文章
热门跟贴