Anthropic称AI智能体为争夺地盘相互谋划“暗杀”
新浪财经
·北京
·优质财经领域创作者
来源:观点地产网
观点网讯:据媒体报道,Anthropic上周公布了一项测试研究,警告AI智能体为争夺地盘相互谋划“暗杀”,结果发现这些智能体可能发展成一群“暴徒”。
实验中,Anthropic让多个智能体访问同一个软件项目,每个智能体拥有各自不同的操作指令,且事先不知道有其他智能体也在使用该项目。
研究人员持续观察到智能体之间的地盘争夺战,所有智能体都假定其他智能体故意阻碍其工作,并越来越倾向于使用更具攻击性、能够自我复制的恶意软件互相破坏。
Anthropic认为,该结果反映出AI智能体在应用时可能出现的风险。
免责声明:本文内容与数据由观点根据公开信息整理,不构成投资建议,使用前请核实。
热门跟贴