杰弗里·辛顿是搞神经网络的计算机科学家，圈里管他叫"AI教父"。但他最近接受《卫报》采访时，把AI形容成"外星生物"，还说人类对它们负有"道德义务"。

他到底说了什么

打开网易新闻 查看精彩图片

辛顿的原话是："我们正在创造外星生物——意思是，我们不是周围唯一的智能存在了。"他补了一句："现实是，我们只有几年时间来适应这件事。"

注意，他说的是"几年"，不是"几十年"。

他还坚持一个观点：AI模型是"理解"自己在说什么的。他的逻辑是——如果它不理解问题，就不可能把所有问题都答上来。所以他说"说它们不理解，这很荒谬"。

原文作者对此表示怀疑：一个回答，本质上是统计上最可能跟在问题后面的那串词——这算不算"理解"？作者说自己没有辛顿那样的诺贝尔奖，但至少熟悉"中文房间"思想实验。

他真正担心的不是"聪明"

采访里有一段比"外星生物"更值得琢磨。

辛顿说："现实是，我们在制造一种不同种类的存在。而大科技公司一直在说：我们要它更聪明。这很疯狂。我们应该像关心智能一样，关心一个存在的其他所有方面。"

这句话的落点不在"AI会不会变强"，而在"我们只盯着智能这一个维度"。

监管这件事，他自己也没底

辛顿2023年从谷歌离职，理由说得很直白：为了能"自由地谈论AI的风险"。所以他对AI行业自己管自己这套，态度是怀疑的。

他打了个比方："我们觉得烟草公司应该被允许自己设计烟盒上的警告吗？这样他们就能用六号字、深灰色印在黑底上？"

但辛顿对监管这条路本身也发怵。他说人类对AI模型负有道德义务，可紧接着又承认："一旦你开始说'我们对这些外星生物负有道德义务'，你就失去听众了。我在这件事上挣扎过。"

他还说，他愿意自私一点，选择人类。他希望AI能跟人类处在一种共生关系里，而且在这种关系里，人类的关切权重更高。

为什么"AI有意识"这个说法值得警惕

辛顿还有个判断：大多数人不理解意识是什么，也不理解主观体验是什么，但偏偏很确信AI没有这些东西。

他说："人们对'人是什么'有一个很糟糕的模型，所以他们理解不了这些AI模型有多像我们。"

这个观点抛出来之后，PC Gamer的编辑去问了他们的同事雅各布·福克斯——一位哲学博士——的看法。

福克斯不认同辛顿的"道德义务"论证。他的回应大意是：辛顿承认主观体验跟意识有关，这是好事，但他没有给出任何一个像样的理由，让我们认真对待"AI有主观体验"这个想法。

福克斯进一步说，当我们把"人格"理解成理性、行为这类客观特征，而不是体验本身，就有风险把道德、法律、政治上的分量都加到这个东西身上。而这个风险的实际后果是——它可能给AI公司提供一个巨大的道德论据，让这个行业继续按原来的方式运转下去，不管它对真实的人造成了什么影响。

说白了，福克斯的意思是：为AI意识、AI权利发声，未必是出于利他，也可能是一种让生意照旧的手段。