芝能科技出品
智在无界发布的 Being-H0.8,超过50万小时的第一人称人类视频数据,训练出一个能把"触觉"塞进模型预训练的系统,成为全球首个隐式触觉世界动作模型。一个是"触觉",一个是"隐式世界模型"可以让机器不只看见世界,还能"摸"懂世界。
01
先说世界模型。
自动驾驶和机器人领域都在研究,让模型在脑子里先"演"一遍,再动手。世界模型让系统从已经看到的画面、已经做出的动作里,去推测下一步世界会怎么变。多数世界模型只处理视觉。
它们预测的是像素,是画面,是"接下来屏幕上会出现什么"。物理世界里,很多关键信息在接触里,在受力里,在物体被碰到之后的状态变化里。
智在无界用的词是"隐式",是把视觉、触觉、动作,以及世界因此发生的变化,统一塞进同一个隐空间。
模型直接在那个空间里理解和预测。 教机器人操作,传统做法是真机遥操加模仿学习。老师傅戴着设备手把手教,机器人跟着学。这类数据贵,规模小,覆盖的任务有限。
智在无界是业内较早提出用大规模人类视频来训练通用具身基础模型的团队,人类每天产生海量的操作视频,这些视频里藏着最丰富的操作先验,关键是把人类视频用好。
通过积累了超过50万小时的第一人称视频,和数十家数据伙伴合作,还打造了 UniHand 3.0,一个覆盖自然物体交互、长时程任务、丰富手部动作和多样场景的高质量人类交互数据库。
这一步的意义在于,它把"人类视频能不能规模化用于具身智能"从一个想法,变成了可参考的实践路径。
数据规模是起点,决定模型能力的,是数据能不能准确描述动作、接触和交互。围绕这个目标,智在无界搭起了一条从数据管线、模型预训练、后训练、评测到端侧部署的全栈基础设施。
这套体系让规模化数据持续沉淀,让模型能力持续进化。数据只是起点。体系才是护城河。
视觉能告诉你杯子在桌上、把手朝左。视觉很难告诉你,指尖压上去的那一下,杯子是稳住了,还是已经开始打滑。它也很难告诉你,拧一颗螺丝要用多大力,插一根线要用多深。操作的核心,摄像头看不到。
这类信息,藏在接触里,藏在受力里,藏在手指和物体之间的空间关系里。人类做精细操作时,触觉是默认开启的传感器。
我们判断"抓牢了没有""滑了没有""力道合适不合适",靠的就是皮肤上的接触反馈。机器人要走进真实世界的精细操作,缺的恰恰就是这一层。
问题来了。触觉这么重要,为什么过去十年没把它大规模用起来?
难在采集。贵,是根本。现有的触觉传感器和数据系统,普遍贵,流程重,高度依赖专用硬件、触觉手套和受控实验环境。采集的人很难离开实验室,更难在真实世界里覆盖足够多样的物体和任务。结果就是,触觉数据始终稀少、昂贵,撑不起基础模型需要的预训练规模。
这就是 Being-H0.8 想要撬动的根本矛盾。触觉有用,但触觉数据不够用。
02
Being-H0.8
智在无界的解法,从普通人类视频里,把触觉算出来,有三个关键设计。
◎ 第一个,把触觉第一次请进预训练。
Being-H0.8 的核心突破,是在隐式世界模型架构里,系统性地引入触觉模态。它也是第一个把大规模人类视频和触觉信息放在一起做预训练的具身基础模型。
具体做法是,把视觉、触觉、动作,以及"世界因此会发生什么变化",统一塞进同一个隐空间。这让模型不只是理解"看到了什么、做了什么、碰到了什么",还能进一步预测"这一碰之后,世界变成了什么样"。对物理交互的认知,从"看个大概"升级成"理解因果"。
为了用好高频的触觉反馈,他们又加了一个结构:慢快动作专家(Slow-Fast Action Expert)。
在标准动作块生成之外,模型多了一条轻量级的快速更新流。每个动作时域开始时,系统先算一次"世界—动作上下文"并缓存;在时域里少数几个锚点,再注入最新的本体状态和触觉反馈,动态修正正在执行的动作片段。
这套机制的好处很直接。它既保留了动作块预测的整体规划能力和计算效率,又能根据接触过程中的实时反馈快速调整。精密抓取、插拔、旋拧、装配这类接触密集的操作,稳定性因此提高。
◎ 第二个,用 TactoHand 把触觉从实验室搬出来。
前面说触觉数据贵,根子在采集要硬件。智在无界的办法是,干脆不靠硬件。通过自研了面向大规模无标注人类视频的密集触觉伪标签系统 TactoHand。
它不需要采集者戴触觉手套、也不需要额外传感器,就能从普通人类视频里,推断出手和物体交互过程中,密集空间点的接触概率和连续接近度。等于说,用接近零边际成本的方式,给海量视频补上了一层触觉监督。
基于 TactoHand,触觉信息第一次被扩展到了超过50万小时的人类视频,并真正用于具身基础模型预训练。触觉数据,从昂贵稀缺的实验室信号,变成了可以大规模生产的预训练资源。这一步,是整个技术路线能不能跑通的关键。
◎ 第三个,用 TopoHand 抹平"手"的差别。
即使有了数据,还有一个绕不开的问题。人手的视频,怎么教给机器人?
人类有手,机器人有灵巧手,也有平行夹爪。这三种"手"的关节命名、机械结构、网格拓扑都不一样。要让人类操作知识迁移过去,光堆数据不够,还得解决动作空间不一致。
智在无界在 Being-H0.5 时就提出了统一动作空间 UAS,用预定义语义槽位,把末端位姿、夹爪开合、手指关节等控制变量映射到共享表示,支持了30多种异构机器人本体。但第一代 UAS 主要在控制变量层面做兼容,还没从运动学结构层面统一人手和不同机器人末端。
到了 Being-H0.8,提出第二代统一动作空间 TopoHand。
它给人类手部、灵巧手和平行夹爪,提供统一的运动学接口。做法是固定拓扑的"螺旋手"表征,由20个语义关键点和20个规范关节变量组成,并以手腕为中心建立统一坐标系。x 轴指向中指指尖在手掌平面上的投影方向,z 轴与手掌法线方向一致,y 轴用于构成右手坐标系。
在这个表示下,不同本体特有的关节定义、机械结构、网格拓扑,都被隔离在策略接口之外。模型不再依赖某一款具体机器人的原始关节定义,而是在统一的语义拓扑和运动学空间里学习操作规律。
人手、灵巧手、平行夹爪之间的结构差异,因此被消弭,人类视频里的操作先验,也能更高效地迁移到多种机器人本体。这一步,是桥。
隐式触觉世界动作模型,正是一个把"看、摸、做、想后果"放进同一个表示的尝试。这一步,是底座。智在无界这一年的节奏很密。从数千小时,到超万小时、20万小时、50万小时,人类视频预训练的尺度一路拉大。
小结
迈向所谓的1.0时代,触觉进预训练只是一个开始,把"手感"这件事做成可规模化的数据基础设施,机器人也更有活人感。
热门跟贴