最近韩国 KBS 电视台专访了被誉为「AI 教父」的 Geoffrey Hinton。
作为深度学习领域的先驱，Hinton 在人工神经网络领域的开创性研究为当今生成式 AI 奠定了坚实基础，并因此获得了今年的诺贝尔物理学奖。
与此同时，他也是当下最坚定的 AI 信徒。
从他笃定的采访语气中，我们仿佛看到了一个既充满希望又暗藏隐忧的未来图景。
十年后，我们或将迎来一个连当下最狂野的想象力都无法企及的 AI 时代；就像十年前我们无法预见 GPT-4 的存在一样，未来的突破可能会远远超出我们的预期。
如果你想知道 10 年后会是什么样子，最好的方法可能是回头看看 10 年前的情况。
从工业革命解放体力，到 AI 革命释放智力，人类正在逐步突破自身的局限。
然而，Hinton 也向我们发出警告，当我们在为未来欢呼雀跃时，是否也该思考如何在这场 AI 浪潮的翻涌中确保人类的主导地位？
部分金句如下：
自 1950 年代人工智能诞生以来，AI 发展出了两种方法：一种是基于逻辑的，另一种是基于生物学的。基于生物学的方法试图模拟大脑中的神经网络，而基于逻辑的方法则侧重于模拟逻辑推理。
神经网络之所以能够取得如此显著的效果，主要有三个原因。首先是来自像英伟达等公司开发的游戏芯片所提供的强大计算能力。第二个因素是来自互联网的大量数据。第三个因素是技术的进步。
如果遇到难以诊断的病例，可以交给医生，他们的诊断正确率约为 40%。或者交给一个人工智能系统，其正确率可以达到 50%；但如果医生和人工智能系统结合在一起工作，正确率将提高到 60%。
过去，如果他们想知道一个承包商是否能够在承诺的时间内完成任务，他们会雇佣一家大型咨询公司撰写报告，三周后才能拿到结果。而如今，只需短短 4 秒，这套系统就能给出答案。
AI 有时搞错一些事情，但人类也会这样，它会产生幻觉的事实，实际上也正是人类常见的现象。
如果你想知道 10 年后会是什么样子，最好的方法可能是回头看看 10 年前的情况。
从长远来看，计算机能够具备我们拥有的所有感知能力。我并不认为人类有什么特别之处，我们只是非常复杂，经历了漫长的进化过程。对于其他人来说，我们非常特别，但没有什么是机器无法模拟的。
我们现在需要做的是，在技术发展过程中加强安全研究，而只有那些大公司拥有足够的资源来开展这些工作。因此，我们需要政府强迫这些大公司在安全方面做出更多努力。
我的意思是，工厂里的所有机器设备都是为人来操作而设计的。所以，与其重新设计所有的机器设备，不如重新设计一个人。这样你就可以继续使用现有的机器。现在人们正在尝试这种方法。
每隔几年，总会有人说神经网络被过度炒作，一切将要崩溃，但他们每次都是错的，我认为他们将继续错下去。
附上原文地址：
https://www.youtube.com/watch?v=SN-BISKo2lE
Geoffrey Hinton：我们的主要限制曾经是体力，而工业革命消除了这一限制。现在我们的主要限制是我们的智力，而人工智能将消除这一限制。
因此，深度学习的灵感来源于大脑的工作方式。我们并不完全理解大脑的工作机制，但我们已经知道了很多。在大脑中，有许多叫做神经元的脑细胞，这些神经元之间有连接。
当我们学习某些事物时，神经元之间的连接强度会发生变化。神经元通过发送信号（类似脉冲）来与其他神经元通信。
所有神经元需要做的，就是决定何时发送信号。它通过查看输入（其中一部分来自其他神经元，有些来自感觉神经元，如视网膜中的神经元）来决定何时发出信号。
如果接收到足够的输入，它就会发出信号。但是，接收到多少输入取决于连接的权重。
权重较小的连接意味着当一个神经元向另一个神经元发送信号时，效果不大。权重大、影响强的连接则意味着当一个神经元向另一个神经元发送信号时，效果会更大，更有可能让后者发出信号。学习的过程就是改变这些连接的强度。
学习中的关键问题是，大脑是基于什么原则来调整连接强度的？
在 1980 年代，科学家们提出了一种名为「反向传播」的方法，这是一种用来决定如何调整连接强度的方式。
事实证明，在 1980 年代，这种方法的效果还算中等。但当时我们并未意识到，如果能提供大量的数据和计算资源，这种方法的效果会变得异常强大。
现在，大型聊天机器人使用反向传播来改变计算机中模拟的神经网络连接强度，这就是深度学习的工作原理。
例如，如果你想要一个能够识别鸟类的神经网络，它的第一层可能会包含识别边缘的神经元。然后，在下一层，可能会有识别边缘组合的神经元，例如两条边在锐角处相交，这可能代表鸟喙的形状。
接着，在下一层，可能会有识别物体组合的神经元，这些物体可能是鸟喙和眼睛。如果它们之间的关系合适，就可能形成鸟头的形状。
诀窍在于，它通过多个层次逐步检测越来越复杂的特征，直到它看到可能是鸟头的部分，或者突然识别出鸟脚，甚至可能是鸟翼的尖端。如果我们看到了这些特征，它就会判断，这很可能是一只鸟。
但所有的权重，即连接强度，都是在神经网络中学习得来的。
自 1950 年代人工智能诞生以来，AI 发展出了两种方法：一种是基于逻辑的，另一种是基于生物学的。基于生物学的方法试图模拟大脑中的神经网络，而基于逻辑的方法则侧重于模拟逻辑推理。
直到最近，基于生物学的神经网络方法才开始比基于逻辑的方法更加有效。
在人工智能的前 50 年里，几乎所有人都倾向于相信基于逻辑的方法，但它并没有真正奏效。直到本世纪初，大约在 2009 年，使用神经网络的生物学方法才开始取得显著进展，并带来了巨大的变化。
其中一个重大突破发生在 2012 年，当时模拟生物学的神经网络在物体识别方面突然变得非常有效。
神经网络之所以能够取得如此显著的效果，主要有三个原因。首先是来自像英伟达等公司开发的游戏芯片所提供的强大计算能力。
第二个因素是来自互联网的大量数据。
第三个因素是技术的进步，例如 2017 年 Google 推出的 Transformer 模型，使得语言模型的效果得到了极大的提升。
此后，神经网络引发了广泛的兴趣，尤其是在 ChatGPT 发布后，大家看到神经网络不仅能理解你说的内容，还能合理地回答问题，这引起了人们对神经网络的巨大关注。
因此，我认为人工智能将在各个行业得到广泛应用。
在某些领域，人工智能的影响显然会非常积极，例如在医疗保健领域。目前，如果我有一些症状，我会去看家庭医生。
如果我得了某种罕见病，家庭医生可能从未见过这种病的案例。我更愿意去找那种接诊过 1 亿病人的家庭医生，或者那种了解我整个基因组、掌握我所有医学检查结果并知晓我完整病史的医生。
未来，我们将拥有这样的人工智能医生。
它们将远比普通医生更为优秀。它们在解读医学影像方面的表现也将更加出色。因此，人工智能能够利用更多现有的信息。
如果遇到难以诊断的病例，可以交给医生，他们的诊断正确率约为 40%。
或者交给一个人工智能系统，其正确率可以达到 50%；但如果医生和人工智能系统结合在一起工作，正确率将提高到 60%。
目前，在北美，每年大约有 20 万人因误诊而死亡，因此这将能够挽救许多生命。
在教育方面，我们知道，如果有私人导师，学习速度会比在课堂上和其他孩子一起学习快两倍。而有了人工智能，每个人都能拥有自己的私人导师，这会让孩子们的学习速度加倍。
这对教育将产生巨大影响。
对于大学来说，这或许不太理想，但在任何拥有数据的领域，人工智能都会非常有用。
让我来举个例子。我有一个邻居，他为一家采矿公司开发了一套人工智能系统，这家公司拥有大量关于在不同条件下挖掘某段矿井所需时间的数据。
他们有大约 100 亿个这样的数据点。现在，这些数据被输入了人工智能系统，可以迅速解答任何问题。
过去，如果他们想知道一个承包商是否能够在承诺的时间内完成任务，他们会雇佣一家大型咨询公司撰写报告，三周后才能拿到结果。而如今，只需短短 4 秒，这套系统就能给出答案。
这只是一个例子，但在所有拥有大量数据的行业，都会出现类似的情况。
你将能够拥有公司所有的数据，并且能够非常高效、迅速地利用这些数据。现在，当我遇到新的问题时，我会请 GPT-4 帮忙。
例如，我有一座里面被某种蚂蚁侵扰的小屋。我和 GPT-4 交流后，它告诉我可能是什么种类的蚂蚁以及该如何处理。这非常有帮助，就像有一个非常有知识和耐心的朋友在旁边。
主持人：然而，我们也能看到它有时会产生错误。
Geoffrey Hinton： AI 有时搞错一些事情，但人类也会这样，它会产生幻觉的事实，实际上也正是人类常见的现象，这叫做「虚构」。
人类总是会发生这种情况。如果你观察任何一个回忆起很久以前发生的事情的人，你会发现他们记不住所有的细节，但他们会非常自信地讲述，而这些细节往往是错误的。
所以，人类就像这些大型聊天机器人一样，总是在编造事实。预测未来非常困难，特别是在事物变化很快的情况下。
如果你想知道 10 年后会是什么样子，最好的方法可能是回头看看 10 年前的情况。
10 年前，没人会想到会有像 GPT-4 这样的技术，或者像 Google 开发的大型聊天机器人那样的技术。因此，10 年后的未来，我们将拥有一些完全没有人预料到的技术，它们将比人们预期的要好得多。
如果你展望几年的未来，情况不会有剧烈变化，但如果看向 10 年后的未来，我们将会看到人工智能在韩国各个领域取得巨大的进展。
主持人：人工智能革命，相较于过去，它在我们文明历史中的意义是什么？
Geoffrey Hinton： 如果你看看工业革命，工业革命带来的变化是人类的体力变得不再那么重要了。
在那之前，如果你想挖沟，你需要人来挖。虽然有动物，风车和水车等工具，但人类的体力依然非常重要。而在工业革命之后，人类的体力就变得不再那么重要了。现在，我们所面临的挑战是人类的智力问题。
当人工智能变得比我们更聪明时，人类的智力将像工业革命后的人类体力一样，变得不再重要。你可以把历史看作是一个去除人类局限的过程，长久以来，我们的主要局限在于体力。
而现在，我们的主要局限是智力，而人工智能将会去除这一局限。如果你问，有多少例子是更聪明的事物被更不聪明的事物控制的？我只知道一个例子，那就是母亲和婴儿的关系。
进化过程中，为了让婴儿能够影响母亲的行为，大自然投入了极大的努力，这对物种的生存至关重要。
然而，婴儿和母亲的智力差不多。无论如何，我们不知道当人工智能比我们更聪明时，我们是否还能保持对它们的控制。有些人，比如我的朋友贾·拉·卡，认为一切都会很顺利。
我们创造出的智能体并非总是会完全遵从我们的指令。我对此持怀疑态度，认为我们不应过于自信地认为它们会绝对服从。
我相信人类是物质存在的形式，人的所有特性都有可能在计算机中被模拟和发展。
从长远来看，计算机能够具备我们拥有的所有感知能力。我并不认为人类有什么特别之处，我们只是非常复杂，经历了漫长的进化过程。对于其他人来说，我们非常特别，但没有什么是机器无法模拟的。
主持人：那么，人工智能对人类工作岗位可能带来的威胁是什么？
Geoffrey Hinton：人工智能带来的风险是多方面的，我们不应将这些不同的风险混淆。每种风险都有不同的解决方案，显然，人工智能将取代许多工作。
例如，律师的助理，进行法律研究的人，人工智能现在已经能够更好地完成其中的大部分工作。
因此，许多普通办公室的工作岗位将不再需要那么多人。我有一个亲戚在卫生服务部门工作，她负责处理投诉信，以前她需要花费 25 分钟时间写一封投诉的答复信。
现在，她只需把信件发给 ChatGPT，系统就能生成回复，她只需要检查并发送出去，整个过程只需要五分钟。因此，这类职位将减少五倍。
这种情况在许多普通办公室工作中都很常见。
现在，有些人说人工智能会创造大量的新工作岗位，确实它会创造一些新岗位，但目前并不清楚它是否能创造出足够的新岗位来取代那些普通的办公室工作，特别是那些由人工智能而非人类完成的工作。
所以，对于这些失业人员的未来来说，这是一个严峻的问题。
我认为这是政府需要关注的问题。我目前最担心的短期风险是人工智能可能使网络攻击和生物武器的制造变得更加容易。
例如，去年，网络钓鱼攻击增加了 1200%。这在很大程度上是因为这些聊天机器人被用来进行网络钓鱼攻击。我还担心有人利用这些技术制造新的病原体，目前对此几乎没有控制措施。
这就是短期的风险。
在中期，我非常担心工作岗位的流失以及自主致命武器的出现，而从长远来看，我最担心的是这些技术变得比我们更聪明，最终接管我们。
我认为在两到三年内，我们可能会看到自主致命武器的问世。那将是人工智能的负面影响。
所有主要的国防部门都在努力开发这些武器。如果你查看目前关于人工智能的法规，所有法规中都有一条规定，明确表示这些法规不适用于军事用途的人工智能。
例如，欧洲的法规中就明确规定，它们不适用于军事用途的人工智能。因此，政府不愿进行自我监管，而是竞相开发自主致命武器。
一旦这些武器被投入使用，我们将看到它们的可怕后果，这些武器将造成可怕的灾难，或许我们能制定类似于日内瓦公约的国际协议，就像我们在化学武器问题上所做的那样。
他们没有使用化学武器，但我们直到第一次世界大战后，才制定了相关公约。
我们现在需要做的是，在技术发展过程中加强安全研究，而只有那些大公司拥有足够的资源来开展这些工作。因此，我们需要政府强迫这些大公司在安全方面做出更多努力。
显然，人工智能的发展需要巨大的计算能力，同时也需要大量的技术人员，因此我们需要留住这些技术人才。留住技术人才的最佳方式就是为他们提供一个可以专心从事研究的环境。
以加拿大为例，虽然它的规模和经济体量相对较小，但在人工智能领域表现非常出色。之所以能够做到这一点，是因为加拿大长期以来实行资助基础科学研究的政策。
像我和乔舒亚·本乔、里奇·萨顿等领先的研究人员，之所以选择来到加拿大，部分是因为加拿大的社会制度，主要还是因为它在基础科学研究上给予了大量资金支持。
所以，做一件事就是大力资助基础科学研究。
关于职业生涯的建议是，如果你能够为创意十足的研究人员提供优厚的基础科学研究资助，他们实际上会更愿意从事基础科学研究，而不是去银行赚取丰厚的薪水。
虽然也有一些人会选择去银行赚大钱，但你对此无能为力。但对基础科学研究的良好支持，特别是对计算能力的资助，是留住优秀研究人员的关键。
主持人：你认为机器人是和人工智能一起发展的吗，
Geoffrey Hinton：人形机器人？
主持人：是的
Geoffrey Hinton：因为我看到很多人现在都在做这个。
可能我们之所以这么做，是因为工厂的设计本来就是为了适应人类。 我的意思是，工厂里的所有机器设备都是为人来操作而设计的。
所以，与其重新设计所有的机器设备，不如重新设计一个人。这样你就可以继续使用现有的机器。现在人们正在尝试这种方法。
我不确定会发生什么，但我认为现在正处于一个充满巨大不确定性的时代。在这种情况下，面对未来的不确定性，我们应该保持谨慎。
主持人：会有一个调整期或者经济衰退吗？
Geoffrey Hinton：对此有两种不同的看法。我的看法是，这种发展将持续下去。
有些人，特别是那些坚持逻辑方法的人工智能信徒，长期以来一直不看好神经网络，他们一直在说人工智能即将走到尽头。
但神经网络，许多人曾经说它们被过度炒作，但它们已经实现了巨大进展，现在已经能够做出令人惊讶的成就。所以我认为它们并没有被过度炒作。
每隔几年，总会有人说神经网络被过度炒作，一切将要崩溃，但他们每次都是错的，我认为他们将继续错下去。
热门跟贴