解放了的普罗米修斯丨人工智能会威胁到人类生存吗？

“ 人工智能技术飞速发展，伴随而来的人工智能威胁论呼声甚大，这种观点是妄言还是警语？为了解真相，论证分析二期课程人工智能论证小组的同学，深入学习人工智能相关知识后，提交了一份含金量很高的辩论作业，请看他们的精彩论述~

作者丨论证分析二期课程 人工智能论证小组

开智学堂（http://www.OpenMindClub.com）

2016 年上半年，最吸引眼球的新闻莫过于围棋界的「人机大战」，谷歌旗下的研发团队开发的阿尔法狗围棋 （AlphaGo），竟然四比一大比分战胜了当今最顶尖的围棋选手之一、世界围棋冠军、职业九段棋手李世石。

除了大比分胜出之外，对弈过程中，阿尔法狗围棋所表现出来的学习能力、推理能力和围棋实力更让人震惊。这一标志性事件立即让「人工智能」成为全球关注的焦点。

虽然现在人工智能已经深深地嵌入到我们的日常生活的方方面面，为人类带来的巨大的价值，但是另一种声音：人工智能威胁论却也随之甚嚣至上、不绝于耳。认为人工智能的研究犹如打开了潘多拉的盒子，最终会消灭人类文明，让人类彻底灭绝。

那么事实果真如此吗？是杞人忧天还是人类真的在自掘坟墓？

人工智能不会自主地威胁到整体人类生存

主持人：好了，暖场结束，请反方辩友，先说明自己的辩题是什么？

谢谢主持人，我们反方的辩题是：人工智能不会自主威胁到整体人类生存。

可能当我方提出这个辩题后，或许有人反问：「按照现有的技术发展，难道在不远的将来，人工智能真的不会威胁到人类生存吗？」

我方将会设定以下四个问题边界：

第一， 只有人工智能比人类更聪明，它才会有可能威胁到人类生存。 我们可以大胆发散思维想一下，在什么样的技术背景或情景下，人工智能会威胁到人类生存呢？

显然，要让人类彻底灭绝，除非人工智能发展处比人类更高级的智慧和文明。

第二，基于目前广泛接受的人工智能三阶段论——弱人工智能、强人工智能和超人工智能各阶段的定义可得出， 人工智能对于人类生存级别的威胁，主要是发生在超人工智能阶段 ，即至善全能的人工智能会消解人类的生存意义。

而以上各阶段的实现时间点，以及不是基于既有事实和可推演理论的远期人工智能威胁论，也不在我们的探讨范围内。

第三， 我方提到的人类不限定于特定人或人群，而是泛指整体人类。 换言之，我们讨论的是人类作为一个种族的生死存亡问题，而不是仅限于个体，否则会陷入阿西莫夫第零定律的悖论。

第四， 我们会将威胁形式限定在「自主范」畴内。 反过来说，人工智能对人类的威胁应该排除人类自身利用人工智能来伤害同胞。

这部分不是我们要反驳的重点。我方认为，即使该威胁的确存在，也不是人工智能本身的问题，而是人的问题。

主持人：谢谢反方辩友的精彩辩词，请反方辩友做开篇立论，概述如何去论证人工智能不会威胁到人类的生存呢？

首先得先解释下前面提到的人工智能三阶段：弱人工智能（ANI）、强人工智能（AGI）和超人工智能（ASI）。

弱人工智能只擅长某一具体领域，比如会下围棋并且也仅仅会下围棋的 AlphaGo；强人工智能适用范围要更大，指具备知识技能迁移能力，可以快速学习，充分利用已掌握的技能来解决新问题、能与人类智能比肩的人工智能。

超级人工智能是机器智能的顶峰 ，牛津大学「人类未来研究所」所长 、人工智能思想家尼克 · 波斯特洛姆（Nick Bostrom）把超级人工智能定义为：「在几乎所有领域远远超过人类的认知能力 」。

目前的人工智能的水平处于弱人工智能阶段，而如前所述，当我们提到人工智能威胁论时，主要针对的是超级人工智能。显然，这种威胁论的基石是人工智能将比人类更聪明。

我们会从个体意义和群体意义这两方面，对「人工智能‘文明’未来比人类文明更发达 ，从而会自主地威胁到人类生存」这个观点进行反驳。

个体意义，人工智能无法超过人的智能

对方辩友：在个体意义上，基于现有 ANI 的人工智能终将超过人的智能。

在正式展开论述前，我们先来看看专家们的意见。在 2017 年中国人工智能创新应用白皮书中，科学家与工程师认为，AGI 算法在理论领域还没有真正的突破，在可见的未来，AGI 既非人工智能讨论的主流，也还看不到其成为现实的技术路径。

下面我们将展开论证，证明为什么目前以深度学习为代表的弱人工智能无论如何发展，都不可能演变为强人工智能系统。

观众小白：打断下，能不能简单的给我们先介绍一下 ANI 和 AGI 的区别啊？

弱人工智能（ANI）又称专用人工智能，目前以深度学习为代表的人工智能就是处于弱人工智能阶段。

强人工智能（AGI）又称通用人工智能，是指不需要专业化涉及，如同人类一样，可以自主学习与适应的人工智能，到强人工智能阶段，人工智能具备了和人类一样的思辨与通用学习能力。

下图是两者的区别。

回到正题。

美国哲学家佛笃（Jerry Fodor）曾提出一个论证，否定了人工神经元网络可以支撑起一个完整的人类认知架构。考虑到所谓的「完整的人类认知架构」与 AGI 之间的类似，以及现有的深度学习机制其实是对于传统的人工神经元网络的继承。

我国学者徐英瑾针对佛笃的论证进行改造，衍生出对深度学习机制的「AGI 化」进行质疑的论证。该论证如下:

大前提： 任何一个 AGI 系统都需要能够处理那种「全局性性质」（Global Properties），比如在不同的理论体系之间进行抉择的能力。

小前提： 深度学习系统所依赖的人工神经元网络，在原则上就无法处理「全局性性质」。

结论： 深度学习机制自身就无法被「AGI 化」。

对方辩友：搬着小板凳，坐等反方辩友如何论证大前提与小前提都是真的。

下面就来论证以上两个前提都为真。

首先来论证大前提。

因为任何 AGI 系统都必须具有人类水准的常识推理能力，而常识推理的一个基本特征，就是推理过程所会涉及到的领域是事先无法确定的。

比如，在日常生活中，我们请保洁员帮忙收拾整理房间时，很可能不止要求「房屋整洁」，还希望能满足我们的个性化居住要求，而这个就要求保洁员得额外了解所有家庭成员的生活习惯。也就是说，跨领域的思维能力是即使连做家务的简单日常活动都需要具备的。

推而广之， 在涉及多样性的问题领域的时候，行为主体就必须具备对于来自不同领域的要求进行全局权衡的能力，而这就是佛笃所说的处理「全局性性质」的那种能力。

AGI 要达到人类水平的通用问题求解能力，也必须符合这样的要求。比如， 家政机器人、聊天机器人与军用机器人所面临的环境的开放性与复杂性，都要求支持这些机器人运作的人工智能系统具有类似于人类的处理「全局性性质」问题的能力。

观众小白：听着是这么个意思，那赶紧来推理下小前提吧。

杰瑞·佛笃认为，深度学习技术相对于传统神经元网络的这种进步，只具有有限的工程学意义，而缺乏重大的哲学意义。这是因为深度学习和传统的神经元网络一样，全都缺乏跨领域的学习能力。

原因在于一个深度学习系统的顺畅运作，取决于两个关键要素:

首先，需要一个专门为特定任务（如人脸识别任务）打造的计算单元多层次框架；

其次，是为该系统提供大量的识别样本（如人脸图片）。而以上两个要素都具有极强的领域依赖性。

而以上两个要素都具有极强的领域依赖性。例如，专用于人脸识别的深度学习框架不能直接用于下围棋，而专用于下围棋的深度学习框架也不能直接用于下中国象棋。

综上所述， 目前主流 AI 技术的进展，并不能帮助我们真正制造出具有 AGI 基本特点的智能机器。

其他以自然智能为代表的途径，目前也没有合理的从 ANI 演变为 AGI 的路径

对方辩友：条条大路通罗马，即便深度学习这条路走不通，也有其他的方向，比如向自然智能，即人类智能和动物智能去学习，由此寻找突破。

既然反方辩友提到这个前沿领域，我方就在继续基于方向展开论述。这个研究思路，被称为 「类脑人工智能」（Brain-Inspired AI），其策略是通过对人类大脑的神经运作细节进行精确的描述，从中抽象出一张精确的 AGI 工作图纸来。

与前面提到的深度学习的策略相比，类脑人工智能的研究思路的确更可取一些，能够比主流的深度学习研究减少类似「盲人摸象」的错误几率。

观众小白：那这个策略看上去有戏啊。

这条道路也只是看上去很美，但是实现起来难度远远超乎想象，理由有四：

1、人脑的运作机制非常复杂现在的神经科学家也无法打包票说我们目前得到的认识是基本准确的。

2、目前对于神经回路的研究，占据了类脑人工智能研究者的主要注意力，因为对于神经回路的模拟似乎是相对容易着手的。但是我们很难保证某些神经细胞内部的活动不会对智能的产生具有关键性作用。而这一点也就使得类脑人工智能研究陷入了两难。

3、从已有研究来看，我们尚且不清楚「意识」（Consciousness）的存在是否是使得智能活动得以展开的一个必要条件。但假设其存在的确构成这样的一个必要条件，也会由此引发更多问题。

4、即使人类目前已经掌握了大脑运作的基本概况，我们也无法保证由此得到的一张大脑运作蓝图可以被机器所实现。

综上所述， 虽然目前向自然智能借脑是从 ANI 向 AGI 发展的一条重要道路，但是基于以上四点分析，在可见的未来还是很难找到可行的进化之路。

诚然，如对方辩友所说技术奇点理论也是支撑人工智能不断前进的一个基础假设。那么技术奇点理论这一前提真的就成立么？建立在其基础上之上的人工智能发展理论真的就坚不可摧么？

那么就让我们来看一看近些年来人工智能学界对于技术奇点理论的核心论断提出的诸多批评和反驳吧。主要集中在以下四类：

第一，计算速度与智能

支撑技术奇点理论的一个重要论点是，作为硬件的硅相较于人类大脑有显著的速度优势。并且根据摩尔定律，这种优势随着时间的推移将呈现指数增长。

但托比·沃尔什指出，技术奇点论者最大的问题在于轮小了执行任务的能力与提升「执行任务能力」的能力之间的区别。前者对应于计算速度，而后者则是指智能。

如果只是单纯的提升计算速度，可以想象，这只不过类似一只可以「快速思考」的狗，如果狗的脑可以快速运行，那么一千年的狗的经历是否能够比拟人类的「洞见」？

第二，线性输出与收益递减

技术奇点理论还预设了智力改进的速率是一个相对固定的乘数，从而会导致人工智能每一代都比上一代拥有显著的提升，是智能整体呈现指数增长，并最终导致「智能爆炸」。

在过去几十年中，计算记得能力确实保持这每 18 个月倍增的速率，但这种计算能力的提升只不过是一种基础输入能力的指数增长，而作为最终结果的智能输出仍呈现出线性增长的趋势。

第三，递归自我改进系统的限制

与强人工智能到超级人工智能，关联最紧密的就是递归自我改进系统。

人类自身就是一种典型的自我改进系统，即人们可以通过学习获得知识，再通过已有知识改进学习效率，如此循环，使人们不断变得更加聪明。

而强人工智能到超级人工智能的典型进化就是人工智能能够发展出这种递归自我改进系统。而对于这一点本身就有种种限制。

在人类进化过程中，一个比较有意思的现象就是，人类的递归自我改进过程中有很多类似于生物演化过程中的突变的累计错误。

这些突变的错误可能对生物体没有损坏，但对于 AI 系统这种计算机系统而言，锁着错误的不断累计，当这些错误达到临界值时，就会导致系统运行出现错误，从而影响递归自我改进的质量，甚至导致这个系统的完全崩溃。

第四，智能的工具性

对于许多技术奇点论者而言，「智能」是至关重要甚至唯一的标尺。一旦人工智能跨越了人类智能这一里程碑式的节点，技术奇点就将到来。

但事实是，与人类迄今发明的所有解放人类体力和智力的装置一样，智能装置本质同样是工具性的。它不具有内在的纸质规范性，因此，它不可能自主地具有价值表达和价值行为。

因此， 我们认为技术奇点理论这一前提都让人存疑，从强 AI 到超级 AI 之路更如空中楼阁。

群体意义，人工智能不能超过人类文明

下面我们将会主要参照金观涛在《 反思“人工智能革命” 》一文中的主要观点，层层递进论证群体意义上，人工智能为何不能超过人类文明。

神经网络、深度学习技术下的人工智能大致相当于动物本能

早在 20 世纪 40-50 年代，AlphaGo 的工作原理已得到清晰认知。

1948 年，美国应用数学家诺伯特·维纳提出了「控制论」，促使智能研究转向行为主义。

而以 AlphaGo 为代表的深度学习就是源于麦克卡洛和匹茨的神经网络模型，其智能的认识也是行为主义的。换言之，今日所谓系统的深度学习，其理论基础是行为主义和连接主义。

为什么当时神经网络自动机的功能没有被冠以人工智能之名呢？因为 神经网络模型对应的是生物本能，而不是人类智能。

生物神经网络的本能源于遗传，而 AlphaGo 的能力是通过学习获得的，两者似乎不可同日而语。

从来没有人会认为动物能超过人类，因为人具有智能，生物本能不是智能。智能是一种学习能力，这正是 AlphaGo 引起广泛注意的原因。

其实，上述疑问之所以产生，是出于对智能和学习关系的混淆。生物的本能亦是通过「学习」获得的，只是不被称为学习罢了。

观众小白：既然智能你说智能是一种学习能力，那怎么样的学习能力才是智能呢？

要想回答这个问题，我们首先要看什么是智能。关于如何定义「智能」？行为主义开创了用行为模式来定义智能的全新思路。

举个例子，一只狗被汽车撞了，下次见了汽车就会害怕，通常人们是用狗有记忆来说明这一点的。但是，智能的行为主义定义正确吗？

就记忆本身而言，AlphaGo 通过人喂给它的大数据或下棋的胜负得到的记忆，只是智能所具有的各种记忆中的一种，即最初等的「默会知识」。

心理学将记忆分「陈述性记忆」和「非陈述性记忆」。 默会知识是非陈述性记忆，比如骑自行车、游泳等，人们可以通过实践来获得，但却不能用语言来描述它，甚至主体都不知道自己「为何知道」。

另一种是陈述性的，也就是人类能够以符号系统予进行表述的知识，其可以被传递、重构、遗忘甚至歪曲。

基于行为主义和连接主义的深度学习，对智能的认识很大程度上只停留在其非陈述性的一面。

然而，如果没有陈述性记忆，知识不能经理性加工、传递，亦不能社会化。也就是说， 仅仅用非陈述性记忆是无法理解最简单的智能的。

观众小白：有点理解了，也就是说，智能需要具有陈述性记忆的能力，而目前的深度学习是不具备的咯？

是的，陈述性记忆是主体使用符号来表达对象、形成记忆，它比行为主义更接近智能之本质，这就进入到智能研究的另一个学派——符号主义。

用符号运算类比人的智慧，比神经网络自动机更为高级，符号系统更接近由理性学习得到的陈述性记忆。

人类智能不同于生物本能之处在于，人不仅具备选择的能力，还具备创造符号以及利用符号系统把握世界、并赋予世界意义的能力。

能否使用符号是人和动物的本质区别。从动物向智人的飞跃也被简化为发明符号和使用符号。

人工智能所着眼的智能只是人类智能的冰山一角

对方辩友：那么问题来了，如果我们承认人是动物进化来的，既然 AlphaGo 这样的智能只相当于动物本能，为什么不能想象如同物种演化那样，具有生物本能的神经网络在学习过程中突然涌现出人类智能呢？

为了回答这个问题，我们要看一看符号系统和智能本质之间的联系。

在符号系统的运行规则背后，起码还存在如下四个层面，它们才涉及智能的本质。

1、主体是自由的，可以给出符号并用符号系统指涉对象。语言就是这样的符号系统；

2、人用语言传递知识，组织社会，产生社会行动。这一切会反过来使主体意识复杂化，社会意识由此起源；

3、人会意识到自己有自由意志，让意志指向某种符号系统，创造一个应然世界；

4、应然世界的演变会进一步放大主体的自由，以创造出更为复杂的符号系统。

而 人工智能的符号主义学派，其所着眼的智能只是第四个层面上的一小点 (即数学推理)。

人工智能不具备人类创造和使用符号的能力，也就不能进化出超越人类的智能

对方辩友：反方的论点不符合事实，当前的人工智能本身就是建立在符号系统之上，甚至已经通过深度学习，具有了理解和使用自然语言的能力。所以人工智能可以创造和使用类似于人类的高级符号。

人工智能个体之间确实存在着你说的情况，但却与人类的符号使用存在着一些本质上的不同。

人工智能得以实现信息自动化选择，即具有「智能」，基本条件是它所具备的信息、知识等，都是制造者事先存储好的。

重要的是就信息、知识属性来说，能够事先存储在机器人身上的知识都是明述知识——通过计算机语言或其他语言（即语言方式而不是其他）传达的。

因此， 人工智能本质上是人造机器运用人类喂给它的知识，是人类已有明述知识的转移、利用。

所以，人工智能被预定义的符号系统和人类自主创造的符号系统完全不能同日而语。

人工智能参照人力类智能社会性的演变上，缺乏所必须的三种推动力量

对方辩友：虽然是喂给的知识，但也同时可以实现交流传递信息的功能，这跟人类的语言等符号系统已经非常接近，假以时日，必将进化出跟人类同样的符号系统。

有梦想总是好的，但是我得先提出几个现实的问题。

即，人类创造符号、使用符号沟通、建立社会，以及文化演变背后起关键作用的内核是什么？人类智能和社会之间的关系又是什么？而神经网络自动机能否自行产生出可以演变成人类智能的能力？

下面，我方们将论证人类智能进化需要的三种推动力量，以说明人工智能不可能「文明」。这三种力量分别是：主体的自由、主体知道自己是自由的、主体认识到自己应该是自由的。具体而言：

第一，创造和使用符号需要一种神经网络自动机不可能具有的能力，这就是主体的自由。

两台 AlphaGo 可以互相沟通，或许人不知道它们在讲什么，但是它们有「对象」意识吗？符号和对象的关系可以具有随机性么？

人类可以对同一事物，不同语言进行完全不一样的表达。主体的自由是语言发明的前提。而神经网络自动机却没有自由的主体，只是被动对外来刺激做出反应，根本不会发明符号并用它来表达对象。

第二，当人通过语言组织成社会后，自我意识开始复杂化。 在这一过程中会发生突变，这就是人可以进一步意识到自己（主体）是自由的。

「人是自由的」是创造符号的前提，而「人知道主体是自由的」是一种二阶思维，即对自由的自我意识。这是主体性又一巨大进步，它通常被称为人具有自由意志。

智力进步第三种更重要的力量，来自于人终于认识到自己应该是自由的。 这是什么意思？

人知道自己是自由的，并不意味着个人自主成为社会组织原则。只有人认识到自己应该是自由的，自由的意义才能超越其他价值，成为「应然社会」的组织原则。

如果有一天神经网络自动机发生不可思议的突变，涌现出主体的自由并发展出自己的语言，继而建立社会，它们同样要经历类似于人类社会演变—从部落社会到古文明、轴心文明再到现代社会的产生。而在当前的技术推演下，显然这种突变发生的概率微乎其微。

观众小白：照你这么说，那所谓的人工智能威胁论，岂不是杞人忧天喽

也不尽然，人工智能威胁论信念到底有多大概率为真，我们无法预测，但倘若该信念成真，那么后果是无法估量的。

波斯特洛姆定义的 「存在风险」（existential risk）威胁着地球上智慧生命的根本福祉，它具有潜在的「毁灭性的」或「地狱般的」影响。

对于人工智能威胁论，我们即不能全然否定，更不必杞人忧天，我们只需知道有这种可能性，然后将重心放在思考如何更健康地发展人工智能，才能尽可能的避免可能的危害，更好地为人类服务。

人工智能的人类安全体系的矛与盾

观众小白：好吧，那人类到底应该怎么做，才算健康的发展人工智能呢？

举起我们的矛和盾， 矛就是积极构建一个针对人工智能的人类安全体系。

著名的阿西莫夫三定律指出：

1、机器人不得伤害人类，或看到人类受到伤害而袖手旁观。

2、在不违反第一定律的前提下，机器人必须绝对服从人类给予的任何命令。

3、在不违反第一定律和第二定律的前提下，机器人必须尽力保护自己。

随着人工智能的发展，通过技术与规则的设置，始终使得人类保持对人工智能的最终控制权，从而避免伤害人类。

观众小白：那我们的盾就是消极的人工智能安全体系咯？

完全正确，这里的消极的人工智能安全体系，就是要构建人类社会的安全备份。这种安全备份有两种考虑：

首先要防备人工智能突发性失灵， 这种失灵可能来自于自然灾害，可能来自于系统建构的逻辑错误，也可能来自竞争国家的安全入侵和破坏等；

其次，要防备人工智能体系自我觉醒导致的不可控，人类主动破坏人工智能体系的情况。

同时，这个消极的安全体系还包括两个层面，即人类如何关闭人工智能，以及人类如何最小备份自身社会形态。

解放了的普罗米修斯

主持人：谢谢反方辩友精彩论述，虽然已经严重超时，但依然瑕不掩瑜。最后，请做个简短的总结陈词。

人类文明一直是一个孤独行走于宇宙荒漠中的不谙世事的少年，现在她知道了另一个异性，在青紫的高加索冰山上，等待着她的解救。再携手重返天宫，夺回盛着赤色火焰的象牙贝壳，回到人间，共同延续人类的文明之火。■

参考文献：

李帅. (2019). 人工智能威胁论: 逻辑考察与哲学辨析. 东北大学学报 (社会科学版), 21(1), 14-19.

王礼鑫. (2018). 马克思主义新认识论与人工智能——人工智能不是威胁人类文明的科技之火. 自然辩证法通讯, 40(4), 15-19.

徐英瑾. (2019). 人工智能技术的未来通途刍议. 新疆师范大学学报 (哲学社会科学版), (1), 10.

中国人工智能创新应用白皮书 — 罗兰贝格管理咨询

李恒威，王昊晟.(2019).人工智能威胁论溯因——技术奇点理论和对它的驳斥.浙江学刊,2(1), 53-62.

金观涛. "反思 “人工智能革命”." 社会科学文摘 11 (2017): 9.

尤瓦尔, 赫拉利, & 林俊宏. (2017). 人类简史: 从动物到上帝. 好家长, (9), 82.

陈自富. (2018). 我们对 “智能” 的认识退步了吗?-与金观涛先生商榷. 文化纵横, (1), 132-136.

欧剃. 《Facebook的人工智能开发出了自己的秘密语言？还早着呢》. 果壳网, 2017

何哲. (2018). 人工智能时代的人类安全体系构建初探. 电子政务, (7), 9.

马文·明斯基，王文革，程玉婷，李小刚 .(2016).情感机器

王维嘉.(2019).暗知识：机器认知如何颠覆商业和社会

注：原标题为《解放了的普罗米修斯——人工智能不会自主地威胁到整体人类生存》，原文更精彩，因篇幅问题，本文有删减。

人工智能论证小组成员：郑皓、刘旭轶、lleen12、朱婧

一休说：

论证分析课是开智学堂英才教育计划的第二堂课。完成全部课程，你将获得对论证的全局认识，掌握实践策略，更好地规避生活中的各种陷阱，优雅地构建自己的观点。 论证分析课程将在 7 月 31 日（下周）正式开课

开智转载文章，转载授权请直接联系原作者