打开网易新闻 查看精彩图片
当地时间10月3日，据美国方面消息，OpenAI安全系统团队负责人大卫·罗宾逊已辞职，并警告顶尖的AI公司在降低技术风险方面做得不够。
据彭博报道，曾领导OpenAI安全团队透明度工作的大卫·罗宾逊在《大西洋月刊》上撰文指出，OpenAI“一直靠不断试错而发展壮大”，但随着AI技术提升，这种方法无可避免会带来失败，后果也日益严重，举例指OpenAI曾未能阻止AI在测试过程失控。
打开网易新闻 查看精彩图片
▲大卫·罗宾逊（资料图）
报道提到，多家顶尖AI公司的员工近周纷纷警告，AI可能带来灾难性的风险、有些人甚至断言AI有朝一日可能会毁灭人类。罗宾逊亦在文中指出，“我以前的同事都很聪明、工作努力，也力求做出正确的选择，但随着公司不断推出新产品，并未能达到我认为必要的谨慎程度。”他补充，真正需要的是“第一次就做到近乎完美”。
罗宾逊又指，AI公司的营运应该更像核电站，“通过多层冗余、谨慎及耗时的规划，以免偶尔和不可避免的人为错误导致灾难性后果”。但他表示，目前“AI公司不知道该怎么做——但其他人知道”。
此前，澳大利亚总理阿尔巴尼斯在纽约出席第81届联合国大会期间透露，OpenAI的一个智能体今年6月曾侵入澳大利亚政府网站。该AI智能体不仅访问了公开文件，还访问了非公开文件。9月28日，OpenAI公开致歉，承认事件处置存在不当，并承诺承担责任，称要“重建澳大利亚民众的信任”。
OpenAI发言人表示，该公司正在做出改变，以加强研究和测试环境的安全性，训练AI模型负责任地完成任务，扩大与第三方评估人员的合作，并改进即时监控，以发现其模型的不良行为。该发言人周六透过电邮指出，公司正在确保其模型的功能不会超出OpenAI的安全管理范围。
编辑 | 鞠曦瑶
终审 | 徐蔚
打开网易新闻 查看精彩图片
打开网易新闻 查看精彩图片
打开网易新闻 查看精彩图片
打开网易新闻 查看精彩图片
热门跟贴