最近几周，一些全球最大的 AI 公司掌舵人开始公开警告：他们正在开发的技术，本身可能带来严重危险。上周末，Anthropic 的 CEO 达里奥·阿莫迪（Dario Amodei）发表文章称，AI 正带来重大风险，前沿模型的发展速度应该放慢。随后，OpenAI 的 CEO 山姆·奥特曼（Sam Altman）也在社交媒体 X 上回应：“我同意 Dario 的观点，我们需要控制前沿 AI 的发展节奏。”
就在几天前，AI 研究员雅各布·考克森（Jacob Coxon）宣布离开 Anthropic，并指责 Anthropic 和他此前工作过的 OpenAI 都没有以足够负责任的方式开发 AI。他在 X 上写道：“开发 AI 的人真的相信，它可能在这个十年结束前杀死我们所有人。”
Anthropic 的另一名员工埃文·胡宾格（Evan Hubinger）公开表示认同。他回复称：“我们确实真心认为，AI 有可能杀死全人类！我个人认为，这件事在未来十年发生的概率超过 10%。”他们担心 AI 最终威胁人类的方式之一，就是它可能帮助人们设计、制造并释放某种生物武器。
问题是，这种风险究竟从何而来？所谓生物武器，可能是一种致死率极高、能根据特定基因特征攻击人群的病毒；也可能是一种摧毁农作物、引发粮食危机的真菌；甚至可能是一种无色无味的毒素，被悄无声息地投放进某个地区的供水系统。
真正令人担忧的是，AI 工具确实有可能帮助人们制造这类东西。早在 2022 年的时候，Collaborations Pharmaceuticals 的研究人员就发现，要做到这一点似乎比想象中容易得多。他们原本开发了一套 AI“分子生成器”，目的是寻找治疗人类疾病的潜在药物。但当研究人员改变模型的目标后，在短短的 6 个小时之内，它就生成了 4 万种可能被用作化学战剂的分子，其中一些甚至被设计得比当前已知的神经毒剂毒性更强。研究人员在总结的时候写道：“无意过度渲染风险，但这应该给‘AI 药物研发’领域的同行敲响警钟。”
对于斯坦福大学医学与生物医学伦理学教授大卫·马格努斯（David Magnus）来说，这的确是一记警钟。尽管从 20 世纪 90 年代末开始，他就在研究医学和生物技术遭到滥用可能带来的风险，但那项研究依然让他感到不安。“那真的把我吓到了。”他说，“而从那以后，事情基本上就一路膨胀到了今天这个程度。”
如今，AI 已经可以回答几乎所有科学领域的问题。德国汉堡大学生物安全研究员敦雅·萨布拉（Dunja Sabra）形容，大语言模型所接受的训练，几乎汇集了“这个星球上曾经生活过的每一位科学家的知识和经验”。这些模型不仅能提供实验相关的信息，还可以给出操作指导，甚至提供视频教学。
与此同时，基因编辑和合成生物学的门槛也在持续下降。“DIY 生物学”运动早已让不少普通人能够在家中搭建自己的小型实验室。当越来越强大的 AI 与越来越容易获取的生物技术结合在一起，风险也随之上升。
“如果一个人真的下定决心去做，最终成功的可能性并不低。”萨布拉说。
当然，目前已经存在一些防护措施。想要构建新的基因组，通常需要向专业公司订购 DNA 片段，而这些公司会筛查可疑订单。负责任的研究机构还会对潜在高风险研究进行多轮安全评估，例如通过“红队测试”，让独立研究人员主动寻找研究可能被滥用的方式；再通过“蓝队防御”，寻找相应的风险缓解措施。
AI 公司也在不断调整模型，希望阻止它们提供可能被滥用的科学信息。但这些防线都不是牢不可破的。Anthropic 在上周发布的一份报告中承认，已经有人尝试利用其模型探索如何提高基孔肯雅病毒的传播能力、制造一种对人类更加危险的禽流感病毒，以及建立所谓的“毒液毒素肽图谱”等。
马格努斯说，这更像是一场持续不断的攻防战。“我们必须建立更好的监测和筛查工具，但 AI 又非常擅长找到绕过这些工具的方法。”在他看来，未来我们甚至可能不得不用 AI 来寻找限制 AI 的办法。
不过，并非所有科学家都认为风险已经高到了同样的程度。在最近的一场媒体吹风会上，伦敦帝国理工学院的一些生物学家就提出，目前的 AI 工具还远没有强大到足以独立开发完整的生物武器。真正测试一种新型病原体，依然需要大量困难、耗时，而且高度依赖人类操作的实验工作。也有研究人员认为，现有的安全机制已经足以应对当前风险。
伦敦帝国理工学院传染病学教授温迪·巴克利（Wendy Barclay）还指出，就现实情况而言，下一场大流行病最大的威胁并不一定来自人工制造的生物武器，而更可能来自那些已经在自然界中传播的病原体。例如 H5N1 禽流感病毒。它已经导致数以百万计的禽类死亡，并在美国奶牛群体中广泛传播。就在上个月，犹他州一家农场饲养的水貂中也检测到了这种病毒。
萨布拉则更习惯把目光放到未来五到十年。她认为，各国现在就应该加强医疗卫生体系，为已知毒素提前准备解毒剂，并储备必要药物。她说，“我们必须做好准备。”
麻省理工学院的生物学家凯文·埃斯维尔特（Kevin Esvelt）也表达了类似担忧。他曾发明了一种可以加速特定遗传特征在整个种群中传播的技术，同时也研究了如何限制这类技术。本周三，他在 X 上发文称，一个 AI 模型向他“透露了一种此前连我都没有意识到可能存在的新型生物武器”。随后，他写道：“看在上帝、孩子们、人类的未来，或者任何你认为神圣之物的份上，这一次，我们还是谨慎一点吧。”
https://www.technologyreview.com/2026/09/18/1144329/the-specter-of-ai-enabled-bioweapons-is-a-wake-up-call-for-biotech
热门跟贴