又一位站在AI开发最前线的研究者选择了离开。比拉尔·丘格泰(Bilal Chughtai)公开表示,自己已从Google DeepMind离职。他此前的工作方向,是AGI安全与AI对齐。
离职的同时,他发出了一句分量很重的警告:AI有可能让人类灭绝。
打开网易新闻 查看精彩图片
不是第一个这么说的人
打开网易新闻 查看精彩图片
丘格泰的警告并非孤例。素材提到,从Anthropic离职的雅各布·科克森(Jacob Coxon)也发出过同样的警告——AI可能灭绝人类。
两个人,两家不同的前沿AI公司,一个相同的判断。这个巧合本身,比任何单句表态都更值得注意。
为什么是"对齐"岗位上的人
打开网易新闻 查看精彩图片
丘格泰的职责,正是研究AGI安全与AI对齐。换句话说,他的日常工作就是思考"如何让AI不出事"。
当负责踩刹车的人开始公开谈风险,这件事的性质就变了——它不再只是外界的担忧,而是来自系统内部的判断。
目前公开的信息仅限于离职表态与这句警告,关于他下一步的去向、以及他是否给出了更具体的风险论证,尚不清楚。
热门跟贴