7月7日消息,近日,悟界·RoboBrain Orca公布更多技术细节。与大语言模型预测“下一个词”、视频模型预测“下一帧”、机器人模型预测“下一个动作”不同,RoboBrain Orca尝试让AI预测“下一个世界状态(Next State Prediction)”,通过构建统一的世界潜在表征空间,学习物体运动、场景变化、事件因果及状态演化规律。

打开网易新闻 查看精彩图片

悟界·RoboBrain Orca的技术哲学:先利用多模态世界信号学习世界表征,再做好一切任务

据了解,RoboBrain Orca采用“无意识学习+有意识学习”双路径训练框架。其中,无意识学习通过海量真实世界视频学习世界运行规律;有意识学习则结合事件描述、任务指令及视觉问答(VQA)等数据,帮助模型理解具有明确语义的状态转移过程。研发团队认为,这一模式更接近人类通过观察与交互认识世界的过程。

在数据层面,RoboBrain Orca基于12.5万小时视频数据和1.6亿条事件标注数据进行训练。官方表示,随着预训练数据规模持续扩大,模型表征能力和下游任务性能均呈现持续增长趋势。

据介绍,悟界·RoboBrain Orca所代表的世界学习范式有可能从具身智能进一步走向科学发现、复杂系统建模乃至更广阔的认知边界。它是多模态表征世界模型的一个早期版本,但有可能成为通用世界基础模型的一块重要基石。(袁宁)