一个科学家想研究高致病性禽流感,找Claude帮忙规划实验、分析数据、挑选研究方向。Anthropic在9月10日发布的一份威胁情报报告里披露了这件事,但报告给出的细节,不足以判断Claude究竟是加速了这位研究者本来就能做的工作,还是给了他一项新能力。
这项研究的目标,是找出并引入可能帮助禽流感病毒适应哺乳动物、在哺乳动物之间更容易传播的突变。Anthropic表示,据其所知,此前没有私营公司公开分享过自家平台可能被用于生物武器开发的证据。
威斯康星大学麦迪逊分校兽医学院的流感研究者Thomas Friedrich说,搞清楚禽流感病毒如何可能构成大流行风险,“绝对是病毒学研究的正常组成部分”。这类研究能帮科学家评估新出现的禽流感病毒对人类的威胁是否更大。但Friedrich也表示,刻意增强传播性、致病严重程度等病原体特征的实验会引来审视,原因是担心事故或滥用。
围绕这类“功能增益”研究的争论,其实早于生成式AI。2012年,涉及H5N1禽流感和雪貂空气传播的研究,就引发过一场国际辩论:科学收益是否大于风险。部分H5N1传播实验曾被暂停一年,以便研究者和官员厘清如何处理风险。
Anthropic的这起案例发现于2026年5月。这名禽流感研究者从一个该服务不受支持、无法使用的地区访问Claude,Anthropic称其使用了变通手段绕过限制。与Claude共享的材料显示,该群体可能实际接触过相关病毒样本。Anthropic在5月以规避访问限制为由封禁了这名研究者的账号。
Anthropic表示,无法判断这名研究者是否有意造成伤害,因为合法研究与危险生物研究看起来可能很像。对于为何认为此案重要、如何评估Claude在研究中扮演的角色、以及相关实验是否真的被执行,公司没有回应《科学新闻》的提问。
生物防御研究者、乔治·梅森大学的Gregory Koblentz认为,Anthropic发布的信息太少,无法判断这项工作的目的。“没有证据表明这些研究与生物武器开发有关。”他还说,同一类生物研究可以服务于截然不同的目的,从民用科学到军事防御都有可能;即便工作发生在军事附属机构,单凭这一点也不能说明研究者正在开发生物武器。
Friedrich也指出,Anthropic没有提供足够细节来展示Claude到底帮了多少。按公司自己的描述,这个AI模型“并未实质性地增加科学能力”——它可能只是加快了研究者手上的工作,而不是让他做到原本做不到的事。
即便只是提速,对科学家的工作流也可能影响不小。威斯康星大学麦迪逊分校的病毒学家David O’Connor说,Claude这类系统能帮研究者更快找论文、综合结果、解析数据。“过去要花我几个月的工作或分析,现在一个下午就能完成。”
O’Connor认为,已有的科学信息,包括禽流感病毒相关信息,可能因此变得更容易查找和使用。他还说,前沿AI模型可能让科学家去碰那些以前不会尝试的问题:“前沿模型会改变研究问题的野心。”
这起禽流感研究,是Anthropic报告中五起涉及Claude、且公司认为可能支持生物武器开发的案例之一。麻省理工学院媒体实验室的生物学家Kevin Esvelt说,这五起案例在技术上都算不上老练,也不特别令人担忧。他更怀疑研究者的动机,称五起案例都显示出恶意迹象,但没有一起“算得上一次有能力的武器化尝试”。
Esvelt同时提醒,这些尝试质量不高,并不能说明一个能力更强的用户用AI辅助生物学能做到什么。Koblentz表示,AI可以协助研究和分析,但把一个想法变成生物威胁还需要额外的工作。“即便AI被用来设计一种潜在危险的病原体,在实验室里改造或合成出这个生物体之前,它都不构成威胁。”
这需要设施、病毒封存措施、资金、受过训练的人员和实操经验。O’Connor说,这些门槛因人而异:对一个单打独斗、缺乏经验的人来说是重大障碍,对受过专业训练、能用上设备齐全实验室的科学家来说则小得多。
Friedrich在邮件中写道,无论如何,剩下的实验室步骤都很可观。“从找出可能让禽流感病毒适应人类的突变,到出现‘有害的生物后果’,中间有一大段距离。”
热门跟贴