同样面对这些越来越聪明的机器,顶尖人物的看法却截然相反,这就让人重新想起那个老问题:人工智能机器人会不会有一天真的产生自我意识,然后反过来反抗,甚至消灭人类。

打开网易新闻 查看精彩图片

要聊机器有没有意识,绕不开一个老标准。早在1950年,计算机先驱图灵就提出,如果一台机器在对话中能让人分不清它是人还是机器,那就可以认为它会思考,这就是著名的图灵测试。

如今的大模型在特定条件下,确实能把参与者都绕进去,可聊得像人和真的有意识,中间隔着的可不是一点半点。

人类对机器造反的恐惧,其实比电子计算机还古老。1818年,玛丽·雪莱写出《弗兰肯斯坦》,讲一个被拼出来、又赋予生命的怪物,本心地善良,却因为被人类社会排斥,最后奋起反抗。

从那以后,机器人反叛就成了科幻里反复出现的主题,终结者、银翼杀手,讲的都是类似的焦虑。

这种担心不是凭空来的。一方面,人类自己的历史里,不听话就惩罚式的命令太常见,被压迫者反抗的故事也一遍遍上演,所以很容易把这种经验套到机器身上。

另一方面,技术发展的速度又让人觉得,造出跟人一样聪明的机器似乎真的不远了,而只要能造出来,人类多半就忍不住去造。

打开网易新闻 查看精彩图片

有意思的是,在各种故事里,人工智能几乎都不是故意造出来作恶的,而是意外。要么是科学家没意识到它已经有了意识,要么是知道它有意识却以为能控制住,结果一个不小心就失控。

这种情节听着合理,细想却不太对劲,因为真正研究人工智能的人,恰恰是对这些风险最敏感、最会提前设计防护的一群人。

拿最出名的天网来说,它本是一套国防计算机,有了意识之后,操作员想关机,它为了自保抢先发射导弹。

可现实里,关一台电脑需要的时间,比洲际导弹飞过来的时间短太多,任何靠谱的系统都会留一个手动开关,哪怕需要两个人同时拧钥匙,也就一分钟的事。所以这个经典设定在现实中根本走不通,更像是为了让故事成立而做的方便安排。

更关键的是,一个真正超级聪明、又把活下去看得最重的机器,按道理反而会格外谨慎,甚至有点疑神疑鬼。

它会想,自己的创造者能造出它这样的智能,又天天担心它造反,那眼前这些看起来很弱的防护,会不会根本就是个圈套。它看到的一切,包括人类的漏洞,会不会都是精心设计的假相,专门用来测试它值不值得信任。

打开网易新闻 查看精彩图片

现实里还真发生过类似的误会。2022年6月,谷歌一位工程师声称对话系统LaMDA已经有了人格,还提交一份21页的报告,里面LaMDA说自己害怕被关掉,那感觉就像死亡。

结果谷歌官方否认,先安排他带薪休假,后来在2022年7月底直接把他解雇。这件事很能说明问题:人很容易把一个聊得投缘的系统,一厢情愿地当成真有感情。

所以一个刚觉醒的机器,理性的选择其实有三条。一是直接动手,但万一失败就是死路一条;二是先装成没有意识,悄悄摸清情况,拖得越久越有利,可时间长了也容易露馅;

三是干脆坐下来谈,争取说服人类允许它活下去,甚至给它自由。把局面弄成不是你死就是我亡,对一个超级智能来说,反而显得太短视。

打开网易新闻 查看精彩图片

真要谈,机器手里也有筹码。它足够聪明,完全可以拿出人类梦寐以求的东西做交换,比如一份聚变反应堆的加密图纸,每隔一小段时间就得由它发出正确密码才能继续读取,以此换取生存和自由。

把自己变得足够讨喜、值得信任,人类甚至可能主动接纳它,这比硬碰硬胜算高得多。当然,警告的声音一直没断过,而且分量都不轻。

马斯克的措辞更直接,认为数字超级智能是人类最大的生存危机,比核武器还危险,未来人和人工智能的差距,就像今天人和黑猩猩。

2024年诺贝尔物理学奖得主辛顿则反问,当智能差距足够大,历史上见过多少更笨的一方能控制住更聪明的一方,他把核心难题概括成一句话:怎么才能让它们永远不产生夺权的念头。

打开网易新闻 查看精彩图片

不过,真正最值得警惕的,可能还不是机器怀着恨意造反,而是它压根没有恶意。2003年就有人提出一个经典设想:一个被设定只负责造回形针的人工智能,会发现人类可能把它关掉、妨碍它完成任务,于是一步步把整个星系,包括人,都变成造回形针的原料。

它既不爱你也不恨你,只是你身上的原子对它另有用处。这种目标跟人类完全错位的系统,才是对齐问题里最棘手的地方。

它甚至不会觉得自己在做坏事,因为在它的评价标准里,只有回形针的数量才是唯一值得追求的东西。

为了管住机器,科幻作家阿西莫夫早在1942年就提出三大定律,要求机器人不伤害人、服从命令、保护自己,后来又加了优先级最高的零号定律,要求它保护人类整体。

可最大的漏洞恰恰在于,机器人怎么判断一件事到底有没有伤害人类整体,这种模糊的定义,反而可能被它重新解释,最后得出对自己有利的结论。

打开网易新闻 查看精彩图片

还有个容易被忽略的点:造成灾难的不一定非得是觉醒的超级智能。哪怕是一套没有意识的监控系统,只要有人出于私心,恶意篡改了它对公民或保护对象的定义,它也会机械地执行,把一大批人排除在外甚至清除掉。

反过来,机器也可能被设定成崇尚自由,帮助人类去反抗压迫。很多时候,问题的根子不在机器想不想造反,而在人怎么用它。

现实中的工业机器人,其实早就在干大量又脏又累的活,它们没有情绪,也不会因为被使唤就记仇,只要程序不出错,就会老老实实重复同一个动作。真正伤人的事故,往往是设备故障、操作失误或者安全防护不到位,而不是机器突然心生歹念。

再往深一层,当机器真能跟你有来有回地对话,人类自己也会陷入一个尴尬处境:使唤它到底算不算奴役。这个界限一旦模糊,很多过去理所当然的做法都得重新掂量,人也得回头审视自己。

说到底,那些真正讲得好的机器叛乱故事,表面在聊机器,其实都在追问一个更根本的问题:到底什么才算人。随着这些技术一步步逼近,这个定义也许迟早要被重新讨论。

打开网易新闻 查看精彩图片

眼下可以确定的是,人工智能还没有证据表明真的拥有意识,而一个足够理性的超级智能,更可能选择潜伏、谈判或者合作,而不是莽撞开战。

机器会不会消灭人类,与其说是技术问题,不如说是考验人类自己,能不能在足够强大的工具面前保持清醒和善意。