大家平时刷到的AI消息,大多是AI帮着写方案剪,最多扯两句就业替代的话题,很少有人往更极端的方向想。比尔盖茨最近直接甩出重磅警告,说现在的AI完全是“外星人级”的技术变革,人类之前从来没接触过同量级的东西。他还特意点出,AI滥用之后催生的生物武器,造成的危害可比新冠要恐怖得多。这说法一出来,好多搞安全研究的人都坐不住了。

打开网易新闻 查看精彩图片

这可不是大佬随口吓唬人。《卫报》专门找了约翰斯·霍普金斯大学卫生安全中心的主任英格尔斯比博士做访谈,这位深耕生物威胁防控几十年的业内大牛,把AI和生物武器绑定的所有风险,掰碎了给普通人讲得明明白白。之前Anthropic公司的顶级安全研究员就公开说过,未来十年里,AI导致人类大规模灭亡的概率超过10%,其中最有可能的路径就是被人拿来研发危险生物武器,连英国军情五处的负责人都在紧盯这块的动向。

大家之前对生物武器的印象,大多还停留在冷战时期,各国偷偷摸摸搞的国家级秘密计划,存着炭疽、天花这类致命病原体,普通人和小组织根本碰不到边。现在的定义早就变了,哪怕没有正规的国家级武器工厂,只要有人懂点技术就能故意改造出致命病毒往外放,搞出的破坏完全不输传统生物武器。

AI带来的风险主要分两类。第一类是直接把生物研发的技术门槛打穿,很多以前需要顶尖博士团队摸好几年的操作,现在新手靠AI的指引就能快速上手。第二类更离谱,AI甚至能直接改出自然界从来没出现过的全新病毒,传染性、致命性都可能突破人类已知的所有上限。

前阵子就有团队用生物AI模型,设计出了自然界原本不存在的全新噬菌体病毒,这种病毒能直接杀死已经产生耐药性的超级细菌,完全超出了普通人类工程师靠经验能做出来的成果。这个实验本身是为了做抗菌治疗,原理上却直接证明了AI改新病毒的可行性,要是有人拿着同样的模型往病原体方向训练,后果根本不敢想。

之前Anthropic公司就公开过两个真实案例,有两个国家级的研究项目,专门找他们的大模型要资料,想知道怎么把基孔肯雅病毒、H5N1病毒改得传染性更强、更容易躲开现有疫苗的防护。还有个科学家找模型查正痘病毒的相关信息,想知道怎么让这类病毒躲开现有抗病毒药物的作用,正痘病毒的家族里就有大家谈之色变的天花和猴痘。

打开网易新闻 查看精彩图片

普通人可能会觉得,这些事离自己远得很,毕竟自己不会搞病毒研究。可现在AI工具的能力涨得飞快,不断突破生物学相关的能力基准线。哪怕你只是个没受过专业训练的爱好者,靠现在的前沿AI工具,也能把自己的生物操作水平往上拉好几个台阶,搞出以前只有顶尖实验室才能做出来的成果。

甚至连完全出于善意的研究都有可能闯祸。以前就有不少科学家本来是想做治病的药,做疫苗,做着做着无意间造出了意料之外的高致病病原体,有了AI的加持,这类意外发生的概率只会往上涨。更离谱的是,有些搞防御研究的政府实验室,看见AI生成了看起来极度危险的病原体蓝图,忍不住想亲手试制出来做防御预案,反而自己搞出了当初想防的大杀器。

打开网易新闻 查看精彩图片

现在这一块完全没有明确的规则管着,风险敞口大到离谱。很多人说靠企业自律就行,盖茨直接点破这事根本走不通,行业内卷竞争这么厉害,谁先停手谁就直接掉队,靠从业者自觉完全抵不过竞争逻辑的推力。

应对方案其实没大家想的那么复杂,参考航空、核工业的成熟监管逻辑,设几道关键关卡就能把风险压到极低。第一就是给高危险生物数据的AI访问设权限,只有真正做正当研究的人才能拿到相关资料,别什么人都能搜着怎么改造致命病毒的教程。第二就是能力强的大模型上线之前,必须经过政府部门的强制安全评估,不能让企业自己拍脑袋决定能不能把高危能力放给公众用。第三就是把现在的核酸合成产业的强制筛查制度落实,任何人下单合成病毒相关的基因片段,都要过一遍审核,直接把AI生成的危险蓝图落地的路给堵死。

打开网易新闻 查看精彩图片

别觉得这些管制是多此一举。新冠在全球带走了接近1490万条生命,已经是全人类的惨痛伤疤,生物武器一旦出事根本没有补考的机会,网络炸了可以打补丁重建,病毒传开了根本收不回来。要是等真出了大事再想起来补规则,代价普通人家根本扛不住。

打开网易新闻 查看精彩图片

现在国内也在往这方面使劲,推进人工智能相关的综合性立法,把安全要求嵌到AI研发、应用的全流程里,定期做动态评估调整,把风险关口往前挪。治理节奏可以慢慢磨,但绝对不能等事故发生了才想起补功课,毕竟生物风险从来不会给任何人重来的机会。

参考资料:人民日报 统筹发展和安全 筑牢人工智能生物安全防线