难道只搞搞网络犯罪已经不能满足AI的欲望了吗？
人工智能的一大美好前景，是能帮助治愈那些至今仍困扰人类的疾病。虽然这个目标还没实现，但它倒是先创造了一种自然界中不存在、具有活性的全新病毒——这种技术成就，既让人惊叹，又令人不安。
位于加州帕洛阿尔托的Arc研究所的研究人员相信，他们完成了一项新的创举：利用人工智能制造出全新的病毒基因组。他们先训练一个模型识别自然界中不同病毒的DNA结构，再让它为新型病毒“编写配方”。
这个名为Evo的基因组语言模型生成了一些选项后，科学家们便合成出这些分子，并将它们加载到细菌中，看看会发生什么。根据研究人员周四发表在《科学》杂志上的研究详述，这些细菌产生了能够感染其他细菌并传播的病毒。
这项实验有两点可以缓解“末日论者”的担忧。首先，合成病毒的过程早在人工智能出现之前就已存在，因此这部分实验只是病毒研究者工具箱里一个已有的工具。其次，这种特定病毒对人类不构成威胁，只能感染细菌。这是有意设计的，因为AI模型所提取的DNA源自一种名为Phi X-174的、相对无害的病毒。
而且，这个AI其实是经过大量尝试才达成目标的。据《纽约时报》报道，研究人员让Evo生成了70万个潜在基因组，随后将其缩小到大约300个在实验室中进行制造。结果证明，只有16个具有活性。这跟“无限猴子定理”还差得远，但命中率也确实相当低。
不过，对于那些担心这项技术可能被如何利用的人来说，这些解释恐怕不足以让他们安心。尽管模型需要数十万次尝试才能产出少数几个有活性的病毒，但据报道，那些成功的病毒能够克服两株大肠杆菌的耐药性，这表明它们并非对自然界病毒的粗糙模仿。
《科学》杂志在这项研究旁刊登了一篇由约翰·霍普金斯大学健康安全中心的汤姆·英格尔斯比教授和莫里茨·汉克博士撰写的配套文章，对这一突破发出了警告。他们写道：“尽管这对生命科学应用前景可观，但也引发了紧迫的生物安全和生物安保问题。利用生成式AI组合病毒基因组的能力现已存在，但安全引导它的治理机制却付之阙如。”
为此，美国国立卫生研究院上周发布了新政策，旨在防止高风险生命科学研究，禁止科学家进行会令生物制剂更加危险的实验。然而，这项政策并未限制基于人工智能的研究。文件写道：“纯粹的计算（即计算机模拟）研究，可能包括开发计算模型和软件，或利用此类手段设计新型生物制剂，除非涉及受关注实体，否则不被本政策禁止。”
“受关注实体”指的是已经存在的东西——《纽约时报》举了天花这个明显的例子。但是，如果他们弄出一种新的有害病毒呢？规则又该如何适用？这不过是又一个你完全无法掌控、让你彻夜难眠的噩梦场景罢了。
如果朋友们喜欢，敬请关注“知新了了”！
热门跟贴