全文 3,000字 | 阅读约 8 分钟
（Sam Altman：AI 能力远超大众认知）
“AI 已经比人类聪明了。”
OpenAI CEO Sam Altman 在最新的公开访谈中说这句话时，用的是陈述语气，不是预测。
他的原话是：“今年，AI 变得比我们更聪明了。这是个重大时刻。生活还在继续，但有些根本性的东西改变了。”
但大多数人对 AI 的认知，还停留在ChatGPT 是个聊天工具的阶段。
Altman 在访谈中反复提到一个场景： 起初，你问 ChatGPT 问题，它给建议，你有时采纳。 后来它变得更聪明，建议几乎总是对的，你开始依赖它。 再后来，它给出的建议你已经不理解了，但结果证明仍然正确。这时你面临选择：要么跟随你不理解的建议保持竞争力，要么被同龄人甩开。
而世界上数亿人每天都在重复这个过程。每一次对话、每一个选择，都在成为它下一代模型的训练数据。
这就是 Altman 真正想说的： AI 的问题不再是“它能做什么”，而是“我们与它的关系正在如何改变”。
我们以为自己在使用工具。 实际上，我们正在无意识地训练一个正在接管决策权的系统。 而这一切，发生得如此自然，以至于多数人还没察觉。
第一节｜它比你聪明，你还当它是工具
Sam Altman 开门见山地说了这样一句话：
“我们现在已经有了能在最难智力竞赛中击败最聪明人类的系统。但大多数人对 AI 的认知，还停留在使用 ChatGPT 的阶段。”
这不是在预测未来，而是在描述现在。 他想传达的重点，是一个巨大的认知差距。
不是 AI 能力不够强，而是它的真实能力，远超出了普通用户的日常感知。
为什么你感受不到？
因为这些能力，并不是通过炫技展示的，而是悄悄融入到日常体验中。
它可能已经帮你写过一段代码、改过一封邮件、生成过一次旅行计划。 你只觉得“还挺方便”，却没意识到：它比你更懂完成这类任务的方法。
这也是 Altman 最强调的一点：
AI 的进步速度，远远超过了人类社会适应它的速度。
不是 AI 太快，而是我们太慢。
人类对 AI 的认知，还停留在“我问它答”的阶段，但 AI 已经进入了“我猜你要问”的阶段。
换句话说，但 AI 已经进入了另一个阶段：
它在观察你的行为，学习你的偏好，提前准备你可能需要的答案。
第二节｜你没意识到，其实你每天都在“教”AI
Sam Altman 在访谈中反复强调一件事： 人类不是在使用 AI，而是在“训练”AI。
人们在生活和工作中，越来越依赖 AI 做重要决策。每一次使用，每一次反馈，都变成了它学习的素材。
这就是 AI 工作的底层逻辑。
举个例子：你在用 ChatGPT 搜电影推荐时，点了其中一个； 你写邮件时，它给了你三种语气，你选了“更温和”的； 你问它工作建议，虽然不全认同，但你最后还是听了它的做法。
这些看似普通的小动作，正在一点点告诉 AI：哪种风格更受欢迎？哪个回答更有用？什么被采纳，什么被忽略？
它没有“心”，但有非常高效的“记性”和“归纳能力”。 你的选择，就是它的学习素材。
Altman 甚至说：
“我们不是告诉 AI 该怎么做，而是它在看我们怎么选，然后自己学。”
这才是当下最被低估的一点。
不是你在用 AI，而是你在教 AI 怎么理解你所在的世界。
你选哪条回答，它就记住这类表达可能是“好答案”；
你点赞一段内容，它就默认那种角度更“有价值”；
你越频繁使用，它越快明白你想要什么。
就像 Altman 说的：
“我们不是在告诉 AI 该怎么做，而是它在看我们怎么选，然后自己学。我们正在进入一个新的反馈循环，模型学习人类的选择，人类又被模型训练过的内容所影响。”
这才是当下最容易被忽视的事实：
你的点赞、你的选择、你的使用习惯，连同其他所有人的，一起塑造着下一代 AI。
它会变成什么样，取决于我们今天教了它什么。
第三节｜它没有动机，但你已经开始照它说的去做
Sam Altman 在这次访谈中，提出了一个容易被忽视的风险： “我们真正该担心的，不是 AI 想做什么，而是它说了什么我们就听什么。”
这是他对 AI 风险的第三种分类。
前两种风险你可能听过：
第一种：坏人用 AI 做坏事，比如制造病毒、发动攻击；
第二种：AI 变得太强，开始不听人类的，走上“失控路线”。
这两种像电影情节一样刺激，大家都在讨论。 但 Altman 说，最容易被忽略的，反而是第三种。
这种情况不吓人，也不激烈，但最可能真实发生：
AI 没有任何意图，也不会“叛变”，它只是不断给出建议，而这些建议总是对的。渐渐地，你就开始什么都听它的。
想象一个场景：
你问 AI 一份商业策划的建议， 它列了五点，其中三点你觉得很合理，另两点你不太懂。 但你看着它这么自信地写出来，而且过去几次它给的建议也确实有效， 于是你照做了。
几次之后，它给出的内容你已经完全看不懂了，但你依然照做，因为它之前说的都对。
Altman 表示：
“我们开始接受 AI 给出的答案，哪怕我们不明白它为什么这么说。”
这不是 AI 控制你，而是你慢慢把选择权交给了一个你不理解的东西。
它没有动机，也不需要控制任何人。
但结果是：我们正在把越来越多的判断权，交给一个我们不完全理解的系统。
第四节｜ 你现在的选择，正在决定 AI 的未来
前三节讲的是一个正在发生的事实： AI 已经比我们聪明，我们每天在无意识地训练它，而我们正在把越来越多的判断权交给一个不完全理解的系统。
这听起来像是一条单行道。
但 Altman 在访谈中反复强调的是：我们还有时间窗口。
不是说“一切都很美好”，而是说如果现在意识到这个过程，还来得及影响方向。
他提到 OpenAI 早期的一个讨论： 当被问到如果 AI 真的变得比我们更聪明，它该扮演什么角色，联合创始人 Ilya Sutskever 给出的答案是： “我们希望超级智能像慈爱的父母对待孩子那样对待人类。”
Sam Altman 认为这个比喻抓住了关键。
但他也清楚，这不是 AI 的默认设定，而是需要我们主动塑造的方向。 问题在于：AI 会成为什么样，取决于我们现在如何使用它、如何训练它。
第二节说过，你每一次使用都在训练 AI。
第三节说过，你正在把判断权交给它。
但这不意味着你只能被动接受。
Altman 的观点是：我们现在的行为，正在定义 AI 的未来性格。如果我们希望它有同理心、懂得克制，那么我们自己就要在使用它的过程中体现这些价值观。
这不是说 AI 会有“人性”，而是说： 你喂给它什么样的数据、你奖励什么样的回答、你容忍什么样的建议，最终会塑造它的行为模式。
Sam Altman 说“温暖的 AI”“有同理心的 AI”时，他不是在描绘科幻乌托邦，而是在提醒：如果我们不主动参与塑造，AI 就会被其他人的价值观塑造。
这个选择权现在还在我们手中。
但窗口期不会太长。
结语｜你的选择，正在塑造它的未来
如果说过去几年，我们最常问的问题是：
“AI 会不会变得太强？”
那 Altman 这次想说的，是另一个问题：
“AI 的问题不是它想做什么，而是我们正在如何使用它。”
它已经比我们聪明，但大多数人还把它当聊天工具。
我们以为在用工具，实际上每一次点赞、每一个选择，都在训练它。
它给出的建议我们已经不完全理解，但还是照做了。
这不是 AI 有野心，而是我们习惯了把判断权交出去。 它没有意识，但它在观察你的每一次选择，并用这些数据优化下一个答案。
当全球数亿人都在无意识地训练同一个系统时，当这个系统变得比我们更聪明时，我们还能不能保持清醒？
Altman 说，我们还有时间窗口。
但前提是：
你得先意识到，你的每一次点赞，都在投票决定 AI 的未来。
本文由AI深度研究院出品，内容整理自 Sam Altman 接受 Axel Springer 奖时的公开访谈。未经授权，不得转载。
星标公众号， 点这里 1. 点击右上角 2. 点击"设为星标" ← AI深度研究员 ⋮ ← 设为星标
参考资料：
https://www.youtube.com/watch?v=rF0tQtDMwHM&t=1885s
https://x.com/slow_developer/status/1973727163108192666
来源：官方媒体/网络新闻
排版：Atlas
编辑：深思
主编: 图灵
热门跟贴