打开网易新闻 查看精彩图片

一个科学家团队花了近十年研究的问题,AI 智能体只用了两天,就给出了相同的答案。

帝国理工学院微生物学家 José Penadés 和他的团队长期研究一个问题:某些“超级细菌”究竟如何传播抗生素耐药性?经过多年研究,他们逐渐确认,一些细菌会获得来自病毒的尾部结构,并把它们当作“钥匙”,借此进入不同的宿主物种。

这项研究当时尚未发表。2024 年,Penadés 将一个简化后的研究问题交给谷歌 DeepMind 开发的 AI 智能体 Co-Scientist。48 小时内,Co-Scientist 给出了五种可能的解释,并按照优先级排序。排名第一的假设,正是团队多年实验得出的结论。

Penadés 的第一反应不是兴奋,而是怀疑自己的电脑遭到入侵。他随即联系谷歌,确认系统是否读取了实验室的未公开数据。得到的答案是否定的:AI 没有偷看答案。

更出人意料的是,Co-Scientist 提出的四个额外假设中,其中一个是研究团队此前没有考虑过的方向,目前正在被进一步研究。

Penadés 承认,如果在研究开始时就拥有这样的工具,团队确实可以少走很多年的弯路。但同样需要注意的是,即使 Co-Scientist 可以在两天内提出正确假设,却不能独立证明这个假设。真正让答案成为科学知识的,仍然是研究团队多年积累的实验数据。

近日,谷歌 DeepMind 发布了一篇报告《Conjecture Machines: AI agents and the new validation bottleneck in science》,讨论了 AI 智能体如何改变科学研究。报告通过采访多位内部研究人员和工程师,并结合 Co-Scientist、AlphaEvolve 等案例提出,智能体正在加速假设生成和候选方案搜索,但实验、评审和结果理解的速度并未同步提高,“验证”因而可能成为科学研究新的瓶颈。

为什么 AI 智能体变好用了?

在进一步讨论这一瓶颈之前,这份报告先解释了一个现状:早期的 AI 智能体表现并不稳定,而科学研究恰恰对严密性和可靠性要求极高。那么,是什么让智能体在近一年内突然具备了参与真实科研工作的能力?

报告将答案归结为三项因素:基础模型变得更强,模型外部的“脚手架”逐渐成熟,智能体也更容易根据具体科研需求进行定制。

(来源:DeepMind)
打开网易新闻 查看精彩图片
(来源:DeepMind)

首先,基础模型的推理能力变强了。报告称,当前领先模型在 Humanity’s Last Exam、FrontierMath 等科学测试中的表现已经超过人类专家。相比测试成绩,更重要的变化是,模型不再急于给出答案,而是能够进行多步推理,在不同方案之间探索、比较和修正。

这使智能体可以处理更复杂的问题,从大量论文中寻找容易被忽视的信息,建立跨学科联系,并判断何时需要搜索文献、运行代码或调用其他工具。

其次,智能体有了更成熟的“脚手架”。它可以理解为包裹在基础模型之外的一套工作系统,为模型增加规划、记忆和使用工具的能力。借助这套系统,智能体可以检索论文、执行代码、使用科学软件,也可以与其他智能体协作。

早期脚手架往往只适用于特定模型或任务,模型升级后可能需要重新设计,也很难迁移到别的智能体系统上。随着智能体之间通信、调用工具的标准逐渐形成,这类系统有望更容易复用,减少对定制化脚手架的依赖。

第三,智能体变得更容易定制。基础模型掌握了论文和教科书中的大量知识,却缺少科学家在长期实践中积累的经验,例如如何培养特定细胞、处理实验异常,或者让复杂模拟顺利运行。

现在,研究人员可以把部分工作方法整理成“智能体技能”,用一组指令告诉智能体如何执行任务、调用哪些工具、产生什么结果。这些技能可以在团队内部共享和积累,实验室也可以在安全条件下,让智能体使用历史实验记录等内部资料。

在这一模式下,智能体并不是独立完成科学研究,而是承担文献整理、代码运行、数据分析和候选方案生成等工作。科学家则负责设定目标、检查结果并作出判断。

计算生物学家 Natasha Latysheva 已经把自己研究流程中的部分方法整理成了智能体技能。她认为,尽管目前的 AI 智能体还不完全可靠,科研人员的工作方式仍可能逐渐从亲自执行转向更高层次的调度。“我们每天会先检查智能体在夜间完成的实验和分析,再调整研究方向,安排下一轮任务。”

AI 智能体正在怎样改变科学研究?

AI 智能体带来的直接变化,是成为科学家的数字助手。文献筛选、数据库查询、数据整理和代码编写等任务,都可以部分交给智能体处理。谷歌 DeepMind 高级研究科学家 Matej Balog 认为,这能让研究人员能够完成一些过去受编程能力限制、难以独立完成的工作。

但报告更关注智能体对科研核心流程的影响,即从构思、寻找最优解到验证等阶段,AI 正在不同程度上参与科学发现。

构思阶段,科学家通常并不缺少想法,真正困难的是判断哪些方向值得投入时间和实验资源。智能体可以阅读大量公开文献,寻找分散在不同学科中的线索,再让多个子智能体分别提出假设、相互批评和排序。

斯坦福大学研究人员 Gary Peltz 曾使用 Co-Scientist 寻找可以被重新用于治疗肝纤维化的现有药物。根据文献和多年经验,Peltz 选出两个候选药物,Co-Scientist 则推荐了三个。

在人体肝细胞实验中,Peltz 选择的两个药物均未表现出效果。AI 推荐的三个候选中,有两个不仅抑制了纤维化,还促进了肝细胞再生。

这无疑是一个成功的案例。不过,智能体提出的假设并不一定可靠。Co-Scientist 负责人 Vivek Natarajan 提到,一份长篇分析中,即使只有一项关键内容由模型虚构,也可能使整个结论失效。他认为,科研智能体需要具备“认识论上的谦逊”,即能够判断自己何时缺少信息,并明确表达不确定性,而不是只给出一个看似完整的答案。

(来源:DeepMind)
打开网易新闻 查看精彩图片
(来源:DeepMind)

构思之后,智能体还可以在大量候选方案中寻找更优解。AlphaEvolve 的方法是先生成多种候选算法,再按照预先设定的标准评分,保留表现较好的结果,并以此为基础继续迭代。据报告介绍,它已被用于辅助设计谷歌下一代 TPU 芯片、处理数学中的 Erdős 问题,以及改进基因组数据分析。

算法几乎可以描述这个世界上的大部分科学和自然过程,”Balog 表示。正因如此,当一个问题能够用代码表达、候选方案又可以被快速评分时,智能体就能在较少人工干预的情况下持续搜索。

但在材料、化学和生命科学中,计算得分较高的方案通常只是一条线索。一个由智能体设计的催化剂仍需要被合成和测量,一种可能有效的药物也需要经过细胞、动物和临床实验。AI 可以加快候选方案的生成,却不能跳过现实验证。

数学和计算机科学在一定程度上是例外,因为部分验证可以在计算机中完成。DeepMind 开发的 Aletheia 将证明生成器与自然语言验证器结合起来:一个系统提出证明,另一个检查问题并将错误返回修改。在今年 2 月的首届 First Proof 挑战中,Aletheia 在一周内解决了十道未公开研究问题中的六道,是所有参赛系统中成绩最好的。

但自动验证也带来新的问题。Aletheia 项目负责人 Thang Luong 将其称为“证明消化不良”:AI 产生数学结果的速度,可能超过人类专家阅读和审查的速度。

同样从事数学 AI 研究的 Alex Davies 也在思考这场变革将把数学家推向何方。他说:“我可以想象这样一个世界:机器负责发现,而数学家要做的,是理解这些发现,并判断接下来哪些问题真正值得追问。”

从构思、搜索到验证,AI 智能体的作用逐步深入,但不同环节的进展并不一致。机器可以迅速增加假设和候选方案的数量,实验设施、专家审查和自然过程却无法以相同的速度扩张。

科研体系如何应对验证瓶颈?

随着 AI 智能体能够快速生成假设和候选方案,科研体系也需要扩大筛选、验证和理解这些结果的能力。报告认为,政策制定者和科研资助机构需要重点处理四个问题:智能体的可及性、科研数据、实验设施,以及同行评审。

第一,让更多科学家能够使用先进智能体。报告将其类比为过去的超级计算机的访问权,一个国家除了要考虑能否训练出自己的前沿模型,还需要考虑能否把智能体真正部署进大学和科研机构,以及实验室该如何承担相应费用。

虽然单位 AI 能力的成本可能持续下降,但随着科研人员把越来越多、越来越复杂的任务交给智能体,实验室在模型调用上的总支出恐怕不会同步减少。报告因此建议,科研资助机构需要尽快判断:是在现有资助项目中增加预算,还是设立专门针对智能体使用的新资助渠道。同时,报告也建议简化采购流程,让研究人员可以按实际需要自主选择工具,而不必经过繁琐审批。

第二,智能体需要能读取真正适合机器使用的科研数据。目前,不少科研资料以网页、PDF 或下载文件的形式存在,虽然可以供人阅读,却缺少统一格式、清晰的元数据和稳定接口,难以被智能体持续调用。

报告建议,将开放或风险较低的公共数据整理为“智能体就绪”的数据资源,并加强质量控制、长期维护和跨平台兼容。对于医疗、基因组和病毒学等敏感数据,则需要设置权限管理、隐私保护和操作审计机制。报告以英国 OpenSAFELY 项目为例:研究人员可以在受控环境中分析医疗数据,而无需直接接触原始数据,未来类似的机制也可以延伸到智能体的数据访问上。

第三,扩大实验验证能力。许多研究人员目前已经在为仪器和实验设施的排期发愁,而当智能体持续产出新的候选假设,需要被验证的项目只会越积越多。

报告提出了两条路径:一是加大对现有公共实验设施的投入,把更多实验台位和仪器运行时间开放给外部研究团队;二是推动自动化实验室建设,用机器人和自动化仪器全天候运行标准化实验。

谷歌 DeepMind 已经在英国弗朗西斯·克里克研究所建立了一间湿实验室,并为部分使用 Co-Scientist 的独立研究人员提供实验经费;美国的 Genesis Mission 计划则试图打通能源部下属国家实验室、高校和 AI 企业之间的资源。由于自动化实验室的建设成本高昂,报告建议采用公共投资和共享设施的模式,降低单个团队使用这些资源的门槛。

第四,调整同行评审机制。AI 已经大幅降低了撰写论文和基金申请书的成本,这意味着投稿和申请数量还会继续攀升,而文字表达本身也越来越难以直接反映研究质量。学者 James Wilsdon 和 Geraint Rees 就指出,问题不只是供给量的增加,写作质量本身已经不再是一个可靠的筛选标准。如果申请人普遍借助智能体准备材料,而评审者仍完全依靠人工逐一审阅,现有的评审压力只会进一步加剧。

报告建议,评审者同样可以借助智能体检查引用是否准确、数据是否存在错误、证据链是否完整,从而把更多精力留给对研究价值本身的判断。不过,由于评审材料通常尚未公开,相关工具的使用也需要满足严格的保密和数据安全要求。

此外,研究人员还需要更清楚地说明 AI 在研究中的作用。报告提到了“人机交互卡”(Human-AI Interaction Cards)这一设想:记录下产生关键研究思路时所使用的提示词、模型输出和后续的人工修改,让评审者能够追溯一项成果究竟是如何形成的。

显然,智能体的普及会影响下一代科研人才的培养。但如果年轻研究人员在真正掌握基础方法之前,就已经习惯把大量工作外包给 AI,未来可能难以形成审视和质疑机器输出所需的专业判断力。报告因此建议,科研训练体系可以保留一定的无智能体阶段,让学生先扎实掌握基本方法,再逐步把智能体当作协作伙伴使用。

1.https://datumo.com/blog/insight/co-scientist-google-ai-en/

2.https://deepmind.google/public-policy/conjecture-machines-ai-agents-and-the-new-validation-bottleneck-in-science/

运营/排版:何晨龙

注:封面由 AI 辅助生成