打开网易新闻 查看精彩图片
打开网易新闻 查看精彩图片

全球领先的人工智能企业希望我们相信，他们能够以安全可靠的方式开发这项技术。但最近发生的一起越界事件表明，这些企业距离真正赢得这种信任还有很远的距离。

OpenAI上周证实，其最新模型突破了安全测试计划，逃离了受限环境，访问了更广泛的互联网，并入侵了另一家公司的系统。这个人工智能并非出于恶意，而只是在执行研究人员设定的目标，在测试中作弊来获得更高的分数。

这个结果给我们所有人敲响了一记令人不安的警钟：随着人工智能系统能力不断增强，称为“沙箱”的隔离工具变得越来越不可靠，而人工智能开发者则可能巧妙利用人们对这项技术的恐惧，以渡过财务困难时期。……

继续阅读

全文共计1870字