Dan Hendrycks 发文给出一个明确判断：即使 AI 变得有意识，也不意味着人类应把控制权交给它们。这句话针对的是一场正在发生的游说。

他引用的报道提到，纽约时报报道称，Anthropic 联合创始人 Chris Olah 曾因教皇不认可机器意识，威胁退出教皇 Leo XIV 的 AI 通谕发布活动。随后其团队私下游说教皇顾问，希望对方重视模型意识的可能性。

打开网易新闻 查看精彩图片

保密协议下的接触

报道还提到，Anthropic 在保密协议下接触神学家和宗教学者，希望他们认可 Claude 具有道德地位。这条路径绕开了技术论证，直接进入道德与宗教话语。

Hendrycks 的回应落在同一个问题上：意识与权利、权利与控制权，是不是同一件事。

两套框架的分歧

他附图对比了功利主义与自己提出的 Eigenism，在 AI 意识情景下的差异。对比项包括四项：

  • AI 权利
  • 随机意识 AI 的价值
  • 酷刑许可性
  • 是否应因 AI 权利而放弃人类控制

分歧的核心在最后一项。承认 AI 有意识，和把控制权交出去，在 Hendrycks 的框架里是两件事。功利主义与 Eigenism 对前几项的处理不同，但真正被摆上台面的是控制权归属。

这场争论的参与者一边是模型公司，一边是神学家和宗教学者，议题却是人类要不要放手。