据美国有线电视新闻网报道,一名美军情报分析师在美伊战争期间使用人工智能(AI)撰写报告,误信AI提供的假情报,将一艘中国货船所载货物误识为核武器相关部件,美军险些因此采取军事行动。
打开网易新闻 查看精彩图片
报道引述4名知情人士称,今年春天美国与伊朗开战之际,美军特种作战司令部一名分析师撰写的报告在美军内部引起警觉,报告显示一艘在中东的中国船只正在运输核武器计划相关部件。
美军随即采取行动,准备拦截这艘船只并登船检查,军机当时已升空待命。美军官员直至行动前夕才对报告进行深入核查,发现是分析师受AI聊天机器人影响提供了错误情报。
这名分析师使用聊天机器人,分析美军太平洋特种作战司令部的船只货运清单情报,聊天机器人将公开来源情报和政府掌握的机密信号情报混合处理,误识了船上装载的物资。
分析师随后再次借助AI,将分析结果整理成标准情报报告格式,因此在传播过程中获得较高可信度。目前尚不清楚分析师使用的是商用AI还是政府内部AI。
打开网易新闻 查看精彩图片
消息人士指出,这份错误的报告险些引发一场战争。而这种AI幻觉现象在情报界并非孤立事件,AI的加持协助分析师以更快速度发布情报,同时也增加了出错概率。
来源:凤凰卫视资讯台
编辑:木木
热门跟贴