伯克利开源大型机器人操控基准，面对复杂自主操控任务不再犯难|人工智能|人形机器人|伯克利|实验|操控基准

机器之心专栏

机器之心编辑部

随着人工智能和机器人技术的迅速发展，功能操控（Functional Manipulation）在机器人学中的重要性愈加突出。传统的基准测试已无法满足目前机器人对复杂操控任务的需求，呼吁新的操控基准（Functional Manipulation Benchmark）出现。

概述

机器人操控面临两个主要挑战：机器人如何智能地处理复杂的接触动力学以及如何应对环境和物体的多样性。针对这些挑战，机器人学习技术被视为关键的解决手段。因此，该领域需要一个全面易得的框架，提供有挑战性的实际任务、高质量数据、易于复制的设置，集合了基线结果的相关方法，基于该框架，研究人员能够对所提出任务的实验发现进行深入分析。

加州大学伯克利分校智能机器人实验室（RAIL）的研究团队提出了如上所述的现实世界基准，称为 FMB（Functional Manipulation Benchmark for Generalizable Robotic Learning）。

项目主页：https://functional-manipulation-benchmark.github.io/
论文地址：https://arxiv.org/abs/2401.08553
论文题目：FMB: a Functional Manipulation Benchmark for Generalizable Robotic Learning
共同第一作者主页：https://people.eecs.berkeley.edu/~jianlanluo/
https://charlesxu0124.github.io/

FMB 具有以下特点：

创新设计：采用了 3D 打印技术制作任务中的物体，来考验机器人的泛化能力，这种方法也便于其他研究人员复现。
多样化任务：包含单物体和多物体多阶段操控任务，真实模拟日常环境中的挑战。
大型数据集：通过大量人工演示，为机器人提供了丰富的数据集。
模仿学习基线：使用最先进的机器学习方法，提供了基线结果和模块化组件以供其他研究者使用。

物体和任务

FMB 中的任务大致分为两类：单物体多步骤操控任务和多物体多步骤操控任务。这些任务旨在测试机器人的基本技能，如抓取、重新定位和装配等，这些都是完成整个任务所必需的技能。FMB 中的任务要求机器人不仅能完成单一的操控技能，还要求机器人能够将这些技能组合起来，完成更为复杂的多步骤任务。

FMB 的任务设计灵活多变，研究人员可以根据需要选择专注于单一技能，深入研究机器人的操控能力，也可以研究完整的多步骤任务，这需要机器人进行长期规划并具备从失败中恢复的能力。由于涉及选择合适的物体并推理操控物体的顺序，更为复杂的多步骤任务要求机器人能够做出复杂的实时决策。

大型数据集

在机器人学习的过程中，数据的作用不可小觑。为了使机器人更好地理解和掌握复杂的任务，研究团队收集了一个涵盖上述任务的大规模专家人类示范数据集，包含超过两万个操作轨迹。研究团队采用了四个不同的摄像机记录这些示范数据，其中两个摄像机安装在机器人的腕部，另外两个提供全局视角。这些摄像机捕捉了对于机器人学习解决任务至关重要的 RGB 彩色图像信息、深度信息等数据。

此外，数据集还记录了机器人末端执行器的力 / 扭矩信息，这对于像装配这样需要接触大量物体的的任务非常重要。通过这些丰富的数据，机器人能够深入理解任务的每个细节，更加精确地模仿人类的操作技巧。正是由于数据的深度和广度，为机器人学习提供了坚实的基础。这使得机器人在执行复杂任务时，能够更加人性化和更灵巧地对任务作出响应。

模仿学习基线

基线策略的架构图。

基于 Transformer 和 ResNet 的两种模型都使用了共享权重的 ResNet 编码器对每个图像视图进行编码，然后与本体感知信息和可选的物体和相应的机器人技能编码特征结合，以预测 7 自由度的动作。

FMB 的实验部分对模仿学习系统的性能进行了一系列测试，比较了不同的学习方法，探究了不同输入模式和设计决策的影响。实验发现，使用深度信息有助于提高抓取策略的效果，力 / 扭矩信息对于装配任务非常重要。对于多步骤任务，传统的 ResNet、Transformer 和 Diffusion 方法均未能奏效，但该论文中提出的分级控制 (hierarchical control) 方法显示出了潜力。

抓取任务

实验结果显示，纳入深度信息的 ResNet 策略在抓取任务中的性能一致优于仅使用 RGB 信息的策略。通过数据削减研究，研究团队探究了不同数量的训练数据对抓取任务性能的影响。结果显示，纳入深度信息的 ResNet 策略在处理已见物体时的性能将随着训练数据量的增加而提升。值得注意的是，该策略对未见过的物体表现出了与已见物体相近的性能，这表明训练对象的多样性极大地促进了机器人的泛化能力。

装配任务