一个智能体要从一段音视频线索出发,穿过多个独立网络来源,最终锁定唯一的事实答案。这类任务听起来像人做的,现在被做成了基准测试。

打开网易新闻 查看精彩图片

这项名为 OpenDS-World 的研究,把考察场景放在真实运行的网络上,而不是静态的检索题库。它包含 200 个任务,每个任务都要求智能体自己判断下一步该搜什么、以不同形式获取证据,并把它们串成一条多步链条。

研究把难点归到三个相互关联的来源:模态多样、资源格式异构、访问方式需要交互。证据链覆盖四种模态、42 种格式和七种访问类型。

  • 82.5% 的任务涉及至少两种模态
  • 95.5% 的任务需要一种以上的访问类型

任务集横跨文化、日常生活、科学、经济、历史、自然、社会和技术等领域。其中一个示例,把音视频识别与虚拟导览导航、文档查阅、结构化数据检索连接起来,跨越多个网络来源。

这个例子说明了一件事:要完成一个任务,证据获取必须横跨多种格式和多种访问机制,单靠一次检索拿不到答案。