AI有意识，人类就该让位吗？Dan Hendrycks 给出的答案很直接：即使 AI 变得有意识，也不意味着人类应把控制权交给它们。

这个判断不是空对空。他引用的报道提到，纽约时报报道称，Anthropic 联合创始人 Chris Olah 曾因教皇不认可机器意识，威胁退出教皇 Leo XIV 的 AI 通谕发布活动。随后其团队私下游说教皇顾问，希望对方重视模型意识的可能性。

打开网易新闻 查看精彩图片

一场关于“机器有没有道德地位”的游说

报道还提到，Anthropic 在保密协议下接触神学家和宗教学者，希望他们认可 Claude 具有道德地位。这条线索把争论从技术圈拉进了伦理与宗教的场域。

Hendrycks 附了一张对比图，把功利主义与他提出的 Eigenism 放在 AI 意识情景下逐项比较，涉及四个议题：

  • AI 权利
  • 随机意识 AI 的价值
  • 酷刑许可性
  • 是否应因 AI 权利而放弃人类控制

争论的焦点其实落在最后一项。承认 AI 可能有意识，和把控制权交出去，是两件事。Hendrycks 的立场是前者不推导出后者。

一边是游说宗教权威为模型道德地位背书，一边是明确拒绝让渡人类控制权。同一场关于 AI 意识的讨论，走向了两个方向。