来源：深度研究员
（CBS 独家专访Geoffrey Hinton片段）
2025 年 5 月 17 日 ｜CBS Saturday Morning
第一部分｜我依赖 GPT-4，因为它“够用”
“我每天都在用 GPT-4。”
我最怕它哪天‘装懂’骗我。
用得越多，越清楚它靠不住。
而对很多普通用户来说，最容易踩坑的恰恰是——
你越觉得它说得流畅，就越容易误以为它说得正确。
用，是为了效率；懂，是为了安全。 别把一个高效的语言工具，当成一个理解你的人。第二部分｜它装懂了，但我能看出来
——那不是“推理”，只是“像在推理”的表演
采访进行到一半，他们决定给 GPT 出一道“人类常见逻辑题”：
“Sally有三个兄弟，每个兄弟都有两个姐妹。 那Sally有几个姐妹？”
这类题目很常见，用来测试语言模型是否能处理简单的代数推理与主语关系。GPT 开始给出答案：
“Sally有两个姐妹。”
但这就是 Hinton 要指出的最大问题：
“它搞砸了。(It screws up)” “它没意识到Sally自己是其中之一。”
“这就像一辆生锈的车，上面刷了一层厚漆。”
“它在各个领域都懂一点，都不精通。 但是，最终 AI 会在所有领域都变得非常专业。”
它错得太像对了。
第三部分｜不能急停它，但你要装一个刹车
——GPT 不会说“我错了”，那就必须是你来踩刹车
Hinton 没有提出“停下使用 ”这种绝对论调。相反，他自己每天都在用 GPT-4，只不过，他的使用方式，和大多数人不一样：
把它当助手没问题，但你不能把它当老师。
这句话背后，是一个更深层的警告：GPT 没有“纠错机制”。它不会告诉你这句话可能不完整、这道题我没理解、这段逻辑我可能有问题。它不怀疑自己，也不会否定自己。
GPT 会继续生成，直到你信了为止。
三大风险｜Hinton 警示的“幻觉—黑箱—责任”陷阱
在这场看似轻松的访谈里，Hinton 实际上抛出了三个深藏的系统风险：
1、幻觉生成
GPT 的最大问题不在于它错了，而在于它错得像对的。
它回答得流畅自然、逻辑通顺，但其中可能混入了编造的事实、拼凑的逻辑，甚至连它自己也无法分辨。
更关键的是，它不会提醒你“我不确定”——你只看到一个完整答案，很容易误以为它“理解了”，从而直接相信。
2、推理黑箱
GPT 看起来能回答所有问题，但它自己也说不清“为什么这么回答”。
它没有推理链，也没有透明的中间过程。我们无法看到它是如何选取信息、形成逻辑、得出结论的。
甚至连模型开发者，也很难解释它在某次对话中为什么选择某个词、某个句式，或者为什么会跳过某个逻辑环节。
3、责任悬空
当 AI 生成内容出了错，责任会漂向哪里？
结语｜你以为它懂你，其实只是说得像懂而已
这不是 Geoffrey Hinton 第一次发出警告，但却是他第一次用这么生活化的方式，把“大模型”的问题讲得这么直白。
没有术语，没有宏大叙事，也没有对 AGI 的末日预言。
他只是拿出电脑，打开 ChatGPT，说了两句话：
“我每天都用 GPT-4。” “可我最怕它哪天‘装懂’骗我。”
就像他说的：它已经通过了图灵测试，但它不会告诉你哪错了，不会提醒你“这只是个预测”，不会帮你纠正逻辑跳跃。
你不小心把它当成“懂的人”，它就照着你的误解一路走下去。
所以真正危险的不是 AI 说错了什么， 而是你——没有意识到它其实不懂。
Hinton 这场专访留下的是一句提醒，也是一个提问：
“你得知道你在跟谁说话吗？”
他已经在用，但用得克制。
他已经怀疑，但没有拒绝。
这也许就是我们该有的 AI 使用态度：不是拒绝它，而是引导它。
阅读最新前沿科技趋势报告，请访问欧米伽研究所的“未来知识库”
https://wx.zsxq.com/group/454854145828
未来知识库是“ 欧米伽 未来研究所”建立的在线知识库平台，收藏的资料范围包括人工智能、脑科学、互联网、超级智能，数智大脑、能源、军事、经济、人类风险等等领域的前沿进展与未来趋势。目前拥有超过8000篇重要资料。每周更新不少于100篇世界范围最新研究资料。 欢迎扫描二维码或访问https://wx.zsxq.com/group/454854145828进入。
截止到3月31日 ”未来知识库”精选的百部前沿科技趋势报告
（加入未来知识库，全部资料免费阅读和下载）
热门跟贴