打开网易新闻 查看精彩图片
打开网易新闻 查看精彩图片

2030年,普通人仅需几千元就能获得人脑同等的算力;同年,诞生类人水平通用人工智能的概率达25%。这是2024年图灵奖得主、“强化学习之父”理查德·萨顿教授在上海创智学院授课时给出的预测。

7月6日,由上海创智学院、上海交通大学人工智能学院、Openmind研究院联合主办的2026强化学习暑期学校正式开班,理查德・萨顿担任主讲导师。虽然当下各类大模型、行业应用AI成为研究热点,但是他却呼吁,相比于实现通用人工智能这一终极目标,“研究者不要困在短期的AI应用里,而是要回归智能本质的研究。”

本次暑期学校为期三周,也是萨顿首次来华开设完整的、体系化的强化学习专项课程。随着高水平国际前沿学术资源落地上海,上海创智学院等机构正合力为国内青年科研工作者搭建起与全球顶尖学者深度交流、系统研习强化学习前沿理论的专业平台。

打开网易新闻 查看精彩图片

有望创造远超人类水平的通用智能体

作为强化学习领域奠基人,萨顿的《强化学习导论》已成为全球该领域公认的经典教材。萨顿说,“理解智能本身是科学、工程、人文交叉的宏大目标,我的一生都投入其中。”在上海创智学院的首堂课上,与台下的青年学子身着同款白色校服的萨顿,用自己惯用的左手,在黑板上写下了他对强化学习本质的理解:Continual decision making to max reward over time。即,在不间断的环境交互中持续决策,以实现长期收益最大化。

打开网易新闻 查看精彩图片

萨顿预判,本世纪内人类有望拆解智能底层原理,创造远超人类水平的通用智能体。这项突破将重塑人类的工作、生活、自我认知与社会发展方向,这也将是人类文明史上最伟大的智力成就。

具体而言,萨顿做了4大预测:算力性能呈指数级增长,每5年提升10倍,而AI创造的价值也同步实现增长;到2030年,仅需1000美元就能购买达到人脑计算规模的算力;2030年出现人类水平通用人工智能的概率为25%;算力爆炸式增长,倒逼学界研发可规模化拓展的强化学习算法。

他进一步解释,随着硬件算力成本持续走低,2030年,人脑级别的算力将普及大众。但是传统静态、离线训练的模式无法适配海量算力资源,只有以实时交互经验为数据、全程在线迭代、具备无限拓展能力的强化学习框架,才能匹配未来算力的发展趋势。“硬件算力越来越便宜,未来每个人都能负担。因此,一套能适配所有场景、可规模化拓展的通用学习算法,才是当下AI最稀缺的技术。”萨顿说。

大模型存在天然短板,通用AI必须不依靠人类自主学习

萨顿曾在去年就公开提出,当前试图利用大语言模型通往通用人工智能(AGI)的路径,可能是一条“死胡同”。

他谈到,如今主流的AI模式存在天然短板。“算力永远不够用,现实世界的复杂程度远超计算资源的上限。”萨顿解释道,真实世界包含海量人类个体的心智活动,而按照静态数据、人工标注、传统算法运行的智能体,永远无法精准、完整地捕捉环境全部状态,也难以构建完备的最优策略与价值函数,只能通过持续学习得到近似解决方案。

在他看来,智能的本质,是能与外部世界动态交互、持续迭代、更新自身模型,而非仅通过静态数据模仿人类行为。针对真实场景落地的痛点,他提出,新一代通用人工智能必须满足四大标准:实时在线学习、不依赖人工预设先验知识、兼顾算力开销与响应速度、靠环境自主交互生成训练数据。

萨顿以围棋举例,早期以‌AlphaGo为代表的AI,完全依赖人工注入围棋棋理规则等领域专业知识,发展缓慢;而以AlphaZero为代表的通用算法,仅依靠自身与环境交互、自我博弈完成学习,不依赖人类先验知识,最终实现能力飞跃,证明了“自我交互学习”才是智能的底层逻辑。

如今,萨顿整合心理学、神经科学、经济学等六大学科,构建统一智能体运行模型,并主导推出“阿尔伯塔计划”。该计划提出基于模型强化学习的Oak架构,通过优化基础强化学习算法适配终身持续学习场景,为破解通用人工智能难题提供了完整可行的研究路线。