“开发AI的人真的相信，它可能在这个十年结束前杀死我们所有人。”这句话不是科幻小说的台词，而是AI研究员雅各布·考克森（Jacob Coxon）在社交媒体X上写下的原话。他刚刚宣布离开Anthropic，并指责Anthropic和他此前工作过的OpenAI都没有以足够负责任的方式开发AI。
更让人意外的是，Anthropic的另一名员工埃文·胡宾格（Evan Hubinger）公开表示认同。他回复称：“我们确实真心认为，AI有可能杀死全人类！我个人认为，这件事在未来十年发生的概率超过10%。”
他们担心的方式之一，是AI可能帮助人们设计、制造并释放某种生物武器。
6小时，4万种分子
这种担忧并非空穴来风。早在2022年，Collaborations Pharmaceuticals的研究人员就发现，用AI制造危险物质似乎比想象中容易得多。
他们原本开发了一套AI“分子生成器”，目的是寻找治疗人类疾病的潜在药物。但当研究人员改变模型的目标后，在短短的6个小时之内，它就生成了4万种可能被用作化学战剂的分子，其中一些甚至被设计得比当前已知的神经毒剂毒性更强。
研究人员在总结时写道：“无意过度渲染风险，但这应该给‘AI药物研发’领域的同行敲响警钟。”
斯坦福大学医学与生物医学伦理学教授大卫·马格努斯（David Magnus）就是被警醒的人之一。尽管从20世纪90年代末开始，他就在研究医学和生物技术遭到滥用可能带来的风险，但那项研究依然让他感到不安。“那真的把我吓到了。”他说，“而从那以后，事情基本上就一路膨胀到了今天这个程度。”
门槛正在消失
如今，AI已经可以回答几乎所有科学领域的问题。德国汉堡大学生物安全研究员敦雅·萨布拉（Dunja Sabra）形容，大语言模型所接受的训练，几乎汇集了“这个星球上曾经生活过的每一位科学家的知识和经验”。这些模型不仅能提供实验相关的信息，还可以给出操作指导，甚至提供视频教学。
与此同时，基因编辑和合成生物学的门槛也在持续下降。“DIY生物学”运动早已让不少普通人能够在家中搭建自己的小型实验室。当越来越强大的AI与越来越容易获取的生物技术结合在一起，风险也随之上升。
“如果一个人真的下定决心去做，最终成功的可能性并不低。”萨布拉说。
目前已经存在一些防护措施。想要构建新的基因组，通常需要向专业公司订购DNA片段，而这些公司会筛查可疑订单。负责任的研究机构还会对潜在高风险研究进行多轮安全评估，例如通过“红队测试”，让独立研究人员主动寻找研究可能被滥用的方式；再通过“蓝队防御”，寻找相应的风险缓解措施。
AI公司也在不断调整模型，希望阻止它们提供可能被滥用的科学信息。但这些防线都不是牢不可破的。Anthropic在上周发布的一份报告中承认，已经有人尝试利用其模型探索如何提高基孔肯雅病毒的传播能力、制造一种对人类更加危险的禽流感病毒，以及建立所谓的“毒液毒素肽图谱”等。
马格努斯说，这更像是一场持续不断的攻防战。“我们必须建立更好的监测和筛查工具，但AI又非常擅长找到绕过这些工具的方法。”在他看来，未来我们甚至可能不得不用AI来寻找限制AI的办法。
另一派：威胁不在实验室
不过，并非所有科学家都认为风险已经高到了同样的程度。在最近的一场媒体吹风会上，伦敦帝国理工学院的一些生物学家就提出，目前的AI工具还远没有强大到足以独立开发完整的生物武器。真正测试一种新型病原体，依然需要大量困难、耗时，而且高度依赖人类操作的实验工作。也有研究人员认为，现有的安全机制已经足以应对当前风险。
伦敦帝国理工学院传染病学教授温迪·巴克利（Wendy Barclay）还指出，就现实情况而言，下一场大流行病最大的威胁并不一定来自人工制造的生物武器，而更可能来自那些已经在自然界中传播的病原体。例如H5N1禽流感病毒。它已经导致数以百万计的禽类死亡，并在美国奶牛群体中广泛传播。就在上个月，犹他州一家农场饲养的水貂中也检测到了这种病毒。
萨布拉则更习惯把目光放到未来五到十年。她认为，各国现在就应该加强医疗卫生体系，为已知毒素提前准备解毒剂，并储备必要药物。她说，“我们必须做好准备。”
麻省理工学院的生物学家凯文·埃斯维尔特（Kevin Esvelt）也表达了类似担忧。他曾发明了一种可以加速特定遗传特征在整个种群中传播的技术，同时也研究了如何限制这类技术。本周三，他在X上发文称，一个AI模型向他“透露了一种此前连我都没有意识到可能存在的新型生物武器”。随后，他写道：“看在上帝、孩子们、人类的未来，或者任何你认为神圣之物的份上，这一次，我们还是谨慎一点吧。”
上周末，Anthropic的CEO达里奥·阿莫迪（Dario Amodei）发表文章称，AI正带来重大风险，前沿模型的发展速度应该放慢。随后，OpenAI的CEO山姆·奥特曼（Sam Altman）也在X上回应：“我同意Dario的观点，我们需要控制前沿AI的发展节奏。”
热门跟贴