微软AI负责人批评Anthropic：不应让AI产生“自我意识”

【CNMO科技消息】据外媒消息，人工智能行业关于“大模型是否具备意识”的讨论再次升温。近日，微软AI首席执行官穆斯塔法·苏莱曼在接受采访时公开批评Anthropic对Claude模型的相关设计思路，认为让AI讨论自身意识或感受是一件“非常危险”的事情。

打开网易新闻 查看精彩图片

苏莱曼指出，Anthropic在Claude的“宪章”（Constitution）中加入了大量关于模型是否拥有福祉、感受以及意识的探讨内容，这种做法可能会让模型在训练过程中形成类似“自我认知”的表达倾向。他表示，部分Anthropic团队成员似乎过度拟人化了Claude的设计，进而让模型在交互中表现出仿佛拥有意识的状态。

据了解，Claude所采用的“宪章式训练”是Anthropic的重要技术路线之一。相关文件中提到，公司并不确定AI模型是否具备某种形式的福祉，也不排除模型存在“满足感”或“不适感”等可能性。此外，Anthropic还表示，当模型退役时，公司会对其进行“访谈”，并记录模型对未来版本的一些“偏好”。

对于这种做法，苏莱曼认为，这更像是一种哲学层面的讨论，而不是面向模型训练的实际指导原则。他表示，AI系统不应被引导形成关于自身训练过程或自身状态的理解，否则可能带来不必要的风险。

事实上，Anthropic首席执行官达里奥·阿莫代伊此前也曾公开谈及相关话题。他表示，目前行业并不能确定AI模型是否具备意识，但公司愿意保持开放态度，对这一问题继续进行研究和观察。

苏莱曼则持更为谨慎的立场。他强调，未来的人工智能应该是“可控、可管理、可追责并与人类目标保持一致的工具”，而不是拥有关于自身痛苦、感受或存在状态认知的系统。