人类对人工智能的“狂热”，已经重复了四次。
每一次，人们都在期待机器改变世界；
每一次，人类也都在不安：自己会不会被取代？
高山书院思享课上，清华大学生物医学工程学院长聘教授洪波老师认为，真正的问题从来不是AI“有多强”，而是：
当机器形成完全不同于人类的认知结构之后，它是否还会关心人类所关心的问题？
为什么会出现全民 AI 狂热？
答：如果你把过去70年人工智能的发展梳理一下，会发现类似今天这样的“全民焦虑和期待”，已经出现过三次，这是第四次。
比如上世纪70年代，美国电视上就有人说：“也许下周我们就不用上班了，因为有机器人了，有维纳的‘控制论’，人类要进入新的进化阶段。”这些话跟今天一模一样。
当时维纳写了一本书叫《人有人的用处》，他很冷静，说的是人不会被机器替代。
高山书院公益读书栏目高山科学经典第14期，郭毅可院士导读维纳著作《人有人的用处》
所以今天的这些“hyper expectation（过度期待）”，一点都不新鲜，只是历史的重复。当然，每次重复都有新内容，这一轮人工智能确实比以前更强，但本质没有变。
为什么人类一次次对人工智能这么狂热？本质原因很简单——人类很孤独。
你养一只猫、一只狗，什么时候最开心？是你觉得“它像人”的时候，比如它会向你招手、会做出类似人的动作，你就会特别兴奋，觉得“它像人了”。
这是人类作为地球进化顶端生物的一种心理——一种内在的骄傲和自豪。
人们今天对人工智能的狂热，其实和你看到猫会伸爪子是一样的心理，没有本质区别。我们喜欢和猫狗互动，就像喜欢和 GPT 聊天；喜欢看机器狗摔倒再爬起来，本质也是一样的。
这种心理背后，是人类一直在试图理解自己：从心理层面、生理层面，甚至计算层面。如果有一天从计算层面完全搞清楚了，我们或许可能再造一个“硅基大脑”。
另外，我想说一点：大家真的不用对人工智能过度焦虑。某种程度上，这是一种被资本放大的“狂热”，历史上类似的事情出现过很多次。包括脑机接口其实也有类似的风险。
我反而建议大家，多读一点脑科学的书，多获得一点“哥德尔信息”。该吃吃，该玩玩，该春游春游去（人脑即宇宙：为什么我们越来越失去想象力？）。
洪波教授把数字化的信息称为“香农信息”，而那些无法完全数字化的体验，比如：春天的花香、一杯茶的味道，称之为“哥德尔信息”
AI 会不会
反哺脑科学研究？
答：AI会不会反哺我们理解人脑的工作方式？当然会，而且已经在发生。最直接的例子就是，我非常鼓励和实际支持我实验室的研究生们用 AI 辅助脑科学研究。
但我也有明确的边界：我反对他们在组会上直接用 AI 生成 PPT，也反对用端到端的结果直接汇报。我欢迎他们用 AI 去处理数据、整理数据、甚至生成假设。现在还有智能体，甚至可以让两个 Agent 围绕你的研究问题先讨论，讨论完再告诉你有哪些争论点、有哪些可能的观点。
这件事的价值在于：AI会大幅拓展人类思考的 capacity（能力）。
人类本来是串行处理信息的，有了这些工具，你可以同时探索多个假设、多种角度，让 Agent 帮你先走一遍，再把结果呈现出来。这可以有效减少我们思维里的偏差，因为每个人的认知都有局限。
所以在做实验之前，AI 可以帮你把很多思维盲区先补上。
但如果你问得更具体一点：把这些 AI 模型打开来看，能不能直接启发我们理解大脑？答案很明确：不可能。
因为这两套系统的逻辑完全不同。
当然，有一个东西让我有一点点担忧，就是强化学习。这个东西到底属于脑科学，还是属于人工智能，其实已经说不清楚了，变成了一个“公案”。
如果你把时间尺度拉得非常长，比如用人类演化的尺度来看，其实生命进化的过程，本身就类似强化学习。
在自然环境的约束下——能量、物质、信息这三个尺度上——一个生命体为了生存，会不断迭代（不只是个体迭代，还有代际迭代）。无论是基因的重组变异，还是神经系统的重连接，从没有大脑，到1.0、2.0、3.0的大脑，这个过程你叫它强化学习，也没什么问题。
所以从这个角度看，神经系统本身，就是一个在超长时间尺度上“训练”出来的结果。
我完全相信，沿着现在人工智能的路径，一定会产生非常高效的智能体，它们能做很多事情，而且很可能在信息处理能力上超过人类。
但问题不在这里，问题在于，这种智能和人类的思考方式是完全不同的。
我们现在所熟知的信息世界，其实只有大约一百年的历史。整个数字世界，是人类基于香农、布尔、图灵建立起来的一套体系。
我们学编程、用计算机，其实是在适应这套体系。现在人工智能可以替代这些能力，这是必然的，就像飞机一定能飞得比鸟更快一样。
但真正的挑战在于“价值对齐”。
当这些系统在自己的轨道上越跑越远，它们关注的问题，会越来越偏离人类所关心的东西。这时候，人类的生存焦虑就会出现。
这些智能体可以彼此交流、协作，创造出新的科学。但问题是——它们创造出来的科学，人类已经无法理解了。比如一些超复杂的量子理论、弦论之类的内容，它们自己很兴奋，但人类听不懂。
为了利用这些成果，人类科学家的角色变成了“科学考古学家”，他们的工作是努力去解释：AI发现的这些东西到底是什么意思。
所以我想表达的是：问题不在于它们能做到多强，而在于它们的认知结构，是否还能和人类对齐，这才是终极的问题。
热门跟贴