打开网易新闻 查看精彩图片

来源:AI 前线

编辑四月

7 月 17 日,在 2026 世界人工智能大会(WAIC)主论坛上,2024 图灵奖得主、“强化学习之父”、阿尔伯塔大学计算机科学教授

理查德·萨顿发表了重磅演讲。

当前,全球 AI 产业正沉浸在算力狂飙与大模型参数竞赛的狂欢中,业界对 AI 的能力既有过度炒作的泡沫,也夹杂着对超级智能即将降临的恐慌。

面对大众对 AI 的盲目与焦虑,萨顿的发言清醒冷静,他指出当前大模型范式的底层软肋:算力规模并不等于原生智能,仅靠拟合人类历史数据的“模式识别”,无法跨越自主发现新知的鸿沟

在演讲中,萨顿跨越心理学、认知科学与计算机科学的边界,呼吁建立统一的“通用心智科学”,并抛出核心的研判——静态标注数据时代已达极限,AI 正迎来从经验中自主学习的“经验时代”

他强调,没有目标、缺乏与环境交互的奖励信号,大模型就无法校验信息真伪;唯有让智能体在真实世界的动态交互中试错与进化,持续从第一视角的经验中学习,才是通往真正通用人工智能(AGI)的必由之路。

以下是萨顿演讲实录,经编辑整理:

是智能的进步,还是计算的扩张?

非常感谢,欢迎女士们、先生们,我非常高兴今天能来发言,同时分享一下我对人工智能 AI 未来的想法。

讲到未来,现在我们应该怎么样,今后应该怎么走,应该走向什么样的方向,首先我想先说两句,我在前面关于治理的开幕式之后,我觉得我是非常支持合作的观点,共赢的观点和建立合作伙伴关系的观点。

今天我主要和大家谈一下我们怎么思考人工智能,特别是每个人都觉得人工智能现在在发生快速的变化,并且有很快的进步,每个人觉得是一样。

但是如果真的是这样你也要思考一下是不是夸大或者夸张,可以看到人工智能背后的推动力可能也是夸大了它的进步或者重要性。

有的人会害怕 AI,他们也有原因和理由夸大重要性,特别是它的进步到底有多快,它到底真的有快速真的进步吗有一些方面、一些事情真的如此。

比如说可以看到现在有很多的突破,我觉得应该是科学上的突破,这些科学上的突破出现在了我们有机器可以非常熟练使用语言这方面的能力,同时可以生成视频、图片

这些东西也是催生了很多的新行业和产业,也给我们带来很多的经济上的应用,带来真正的经济上的价值,这些非常重要。

但是感觉好像这些还是比较大规模的运用还是模式的识别,我们可以把智能和计算两者不能混淆,这里大多数是计算的能力所以我们要特别关注这一点,必须要把这两者的定义区分开。

讲到 AI 的科学就是智能的科学,它真的在快速进步吗,我觉得并不是如此。

我们现在对真正体系系统的理解是很少的,待会看所有 AI 模型的时候,这些系统其实它们主要是在使用人类知识的力量,并且把它再交付给我们,他们并没有能力发现自己的知识,从很多方面他们是比较弱的,他们在整个思考过程中还是存在一些问题的,并不是如此强大。

这给我们带来一个问题“什么是智能?”我并不指望在这里告诉大家什么是智能,但是会给大家一些观点可以引发大家的思考,同时思考一下你同意哪一种观点和定义。

智能:通过行为的适应来实现目标

刚刚开始讲智能的时候到智能是什么意思,就是威廉·詹姆斯(William James),他是心理学的奠基之父,这是超过 100 多年前的事情了,他对于智能的定义可能并不一定是说的智能而是所谓的心智,他说所谓心智最大的标准是要达成一定的目标,但是使用是多样不同的手段

就我听来这是一个目标,要有相同的结果,但是用不同的手段实现,我们要通过心智,通过智能实现一个目标。

或者可以使用其他的含义或者定义,就是要像人一样行为,通常是通过图灵测试进行表达,但是图灵从来没有用过图灵测试的提法,他讲的是模仿游戏,所以可能大家普遍有一种误解,图灵认为的像人一样的形式不觉得这是人工智能的测试。

不过我们可以看到现在已经普遍接受了,现在有大语言模型在进行训练的时候要让它们像人一样进行行为,这也是其中的一个含义。

我们有时候也会使用,但是这和威廉的定义不太一样了,如果我们查字典,一般的字典可以看到它的定义是获得和使用或者运用知识与技能的能力

它是指获得或者是运用知识于技能的能力,我们如果再回到人工智能之父,他说智能是通过计算来达成目标的能力,这里又提到了目标,又提到了计算。

但我们讲的是人工智能,所以甚至就算是自然的智能也是需要计算,这些是各种各样不同的智能定义。

我也有智能的定义,通过行为的适应来实现目标的能力,不断进行适应和调整。除此之外我个人的观点,我是觉得我们应该要设立关于心智的科学,不仅仅是自然的心智或者技术的应用,而是所有综合性的心智科学

它是可以用于人类、动物、机器所有的这些心智都有共同的特征,都有共同的特点,同时也都是为了要实现目标,随着时间的推移采取行动,但未来可能更多的心智是机器的心智

现在没有哪一门现有的科学把这些全部包含进去,无论是心理学、人工智能、认知科学,都没有办法做到这一点,所以我们没有办法把所有的机器都包含进去。因为我个人比较感兴趣的强化学习是综合性心智科学的开始。

人类数据已经达到极限

我今天讲的主题是我们现在还处于人类数据的时代,所有的这些 AI,它们都是培训预测人们的语言下一个词,人们的标签,并且也是由人类专家进行微调的,大部分的机器学习是要进行知识的转移,从人转到机器身上。

这种方法现在已经达到极限了,很多高质量的数据源被用完了,生成新的知识是这个范式没有办法实现没有办法做到的。

我们现在在迈入所谓的经验时代,AI 需要新的数据来源,它能不断增长不断改善,随着智能体越来越强,它不是静态的数据集,因为静态的数据集是不够的。

我们要得到这个数据源它是来自智能体,它自己的经验,它和世界的互动,我说的是它的经验是第一视角的

我觉得我们这些数据的信号它不断来来回回进行传递,这是非常快速,是在智能的智能体和它创造的环境就是世界当中来传达的,这些信号它的奖励、行为、观察,这些来定义它的目标到底是什么,所以这是人和动物学习的方式。

心理学研究已经告诉我们了像 AlphaGo 是通过这样的方式来下棋,也是最近 AlphaProof 系统在国际奥数比赛当中得到比较好的成绩,接下来给大家看一个视频,也看出一下这是一个怎样的过程。

这是婴幼儿,他在玩自己的玩具,大家可以注意一下他的数据,他收集到来自世界上的这些数据,其实是完全取决于他的这些行为,他做些什么,他会从一个玩具到另一个玩具,从每个玩具身上进行学习,玩完一个之后不玩了,玩下一个。

他的行为是决定了他的输入,他是没有静态的数据集,不是事先构架好的所以这些数据在打造的过程中是最为适合他的需求,以及也适合他的认知能力范围和水平,这是最关键的信息。

然后我们可以看一下无论是动物或者人他进行各种行为的时候,这是我们做的,现在我们都坐着,但是我们的身体是采取行动而且是快速采取行动,对周遭发生的事情反应。

我们是高带宽的信息处理,信息来了足球运动员马上就要决定,所有这些数据来了之后,他接下来应该怎么做,什么是比较明知的踢法。

还有打棒球的人他击球的时候,当球来的时候,我们可以看到就这么短的时间内他马上要决定怎么来进行挥杆。

还有鸟,可以看到还有狮子,就算是人在这里交谈,是很多的信息处理,也是为了完成一个目标,同时也是基于我们的经验,希望给大家有所理解。

没有经验,就没有智能可言

再看一下这张幻灯片的内容讲到经验型的 AI,智能体是交互这些信号它的行为,它的感知,这些是它的经验,这可以说是我们的焦点,这是智能的全部,智能就是要打造这样的互动。

因此我们可以看到这是一个焦点或者重点,是所有的心智终点,要采取行动要采取行为,并且有所感知。

可以认为一个智能体它是智能的话,它能够预测和控制它的经验,它的感知,如果说它没有经验,那么我觉得根本没有什么智能可言。

特别是我们没有办法去说这种行为的方式比另外一种行为的方式好,我们必须要有经验,要有奖励信号告诉我们这个行为得到奖励,但是另外一种行为没有让我得到奖励。

现在的大语言模型它是没有这种奖励的,它没有办法知道这个行为是好的还是不好的。

所以这最终是为什么它们有很大的限制,因为它们没有目标。

观察也是很类似的,这就是所谓的事实准确性,大语言模型基本上没有办法把真的和假的区分开

如果没有经验,你的知识是预测去发生了什么,你没有经验的话,你可以看到之前发生的,但是你没有数据、没有经验作为输入来源,你就没有办理知道你做出了预测到底是对的还是不对的,但是有了经验的 AI 就有奖励、目标,有真实的情况,就是你认为会发生的事情真实发生了。

这是我们的想法,可能对大家来说是显而易见的,如果我们在研究 AI 的话,大家可能觉得这是非常自然的,这句话是来自 Alan Turing 的,他是计算机科学奠基之父。

这是 1947 年的时候他说的,这时候甚至没有 AI,他看的是自然的智能,他说我们需要的是一台机器,它可以从经验当中来自主学习,这是非常基本但是又是非常深刻的想法,它没有成为关键的现代 AI 组成部分。

但是我觉得这个想法现在慢慢变得越来越重要,特别是在机器人当中,在一些工业的应用当中,所以我也很喜欢这样的说法,是维克多·雨果说的,他说“恰逢其时的思想,势不可挡”。

所以我觉得我们要从经验当中进行学习,这个想法是所谓的恰逢其时,可能这个时代还没有真正到来,这是我们在迈入这样的时代。

当前 AI 仍然弱小且不可靠,但经验时代正在到来

做一下总结,我觉得AI 现在终于转向从经验来进行学习,而不是从人类的数据进行学习,这样它会变得更加强大,因为它可以持续学习新的东西。

虽然现在有很多的炒作,甚至是对 AI 的恐惧,现在的 AI 智能还不够强大,我个人认为它是比较弱小而且是不可靠的,因为会产生很多的错觉,它可能告诉我们的东西是错的。

但是同时它是非常有用的,它也给我们带来催生了很多的产业,而且所有人可以使用,每个人都可以使用,所以大家都感到非常激动,因为大家都发现AI 现在还不是真正的智能,或者真正的自主智能,还没有达到这一步,但是我们在迈向这样的时代。

我们要习惯,所以现在是第一次和它们接触,还没有来到真正超级智能时代,或者智能增强人类的时代,但是会给我们带来巨大的变革,应该是由人类推动的,同时这个变革会给到人类。

所以可以看到如果作为一个从经验当中学习的人,我自己本人就是从经验当中学习的,一生都是如此。我觉得我可以预测到经验时代的到来,所以我们要说的是欢迎大家来到“经验时代”,非常感谢大家的聆听,谢谢。

阅读最新前沿科技趋势报告,请访问21世纪关键技术研究院的“未来知识库”

打开网易新闻 查看精彩图片

未来知识库是 “21世纪关键技术研究院”建 立的在线知识库平台,收藏的资料范围包括人工智能、脑科学、互联网、超级智能,数智大脑、能源、军事、经济、人类风险等等领域的前沿进展与未来趋势。目前拥有超过8000篇重要资料。每周更新不少于100篇世界范围最新研究资料。 欢迎扫描二维码或访问https://wx.zsxq.com/group/454854145828进入。

截止到2月28日 ”未来知识库”精选的百部前沿科技趋势报告

(加入未来知识库,全部资料免费阅读和下载)