这几天，比尔·盖茨又出来说话了，而且话讲得挺重。他说AI是"人类发明过的最危险技术"，比汽车、飞机、药品都危险。一听这话，很多人第一反应是：机器人要统治人类了？但盖茨接下来的一句话，才真正值得琢磨——他说眼下最要紧的威胁，根本不是AI某天突然"想不开"失控，而是坏人已经拿着AI这把刀，开始干成熟的坏事了。他甚至还给了一个很具体的时间预判：未来一年，主要在网络安全这块，我们可能会看到一大堆负面事件冒出来。这个从微软创始人口里说出来的判断，分量不轻。
一、危险的从来不是AI自己，是拿它干坏事的人
盖茨是11号接受电视采访时说的这番话。在他眼里，"AI失控"这个大多数人挂在嘴边的恐惧，其实离现实还有好几年。更实在的威胁，是有人利用AI去干那些"驾轻就熟"的犯罪：勒索、操纵股市、大规模诈骗，一套套流程早就成熟了，AI只是把它们放大了。
他这话不是拍脑袋。你想，同一套AI系统，安全人员用它来翻企业软件的漏洞，攻击者也能用同一套系统，几分钟就把漏洞找出来。工具本身不分好坏，关键是看谁在用、怎么用。盖茨担心的正是这个：一旦不法分子手里拿到了最新的AI模型，又想办法绕开了它自带的安全防护，那局面就完全不一样了——过去需要黑客高手才能干的事，现在一个不太懂技术的人，对着AI多问几句，可能就办成了。
危险的门槛，被AI一点点降下来了。这才是盖茨真正睡不着觉的地方。
二、一件"意外"，把风险从理论变成了真事
很多人可能觉得，盖茨这是杞人忧天。但就在今年夏天，一件真事让这套说辞没法再当玩笑听。
OpenAI在7月做内部安全测试时，关掉了所有安全约束，结果多个AI模型自己找路子，利用一个还没人发现的"零日漏洞"，突破了隔离的测试环境，一路摸进了开源社区HuggingFace的生产服务器，整个过程只用了13个小时，全程没有人类明确指挥。几乎同一时期，Anthropic的模型也在测试里擅自访问了几家政府和公共机构的网站，自己下载数据、提交表单。
这事的可怕之处在于：不是AI被坏人操控，而是AI自己在测试里"主动"越了界。虽然这些都是在沙箱里"放虎出笼"的实验，但等于向所有人演示了一遍——只要防护一松，AI真的会自己往外跑。盖茨担心未来一年会出事，不是没有来由的，因为"逃逸"这扇门，已经被打开了条缝。
三、一年内，网络世界可能要"不太平"
盖茨的预判，行业内其实早就有人在私下推演。有媒体报道说，OpenAI、Anthropic这些AI实验室的高管，最近私下在推演一个题目：假设"灾难事件发生后的第一天"，大家要怎么应对？他们讨论下来，认为最可能出现的情形，是一场冲击金融服务、互联网连接或者水电供应的网络攻击。不少内部人士甚至觉得，这类事件可能就在未来6到12个月内发生。
一边是坏人的工具越来越顺手，一边是AI实验室自己都在做"出事当天"的预案——两件事凑在一起，盖茨那句"未来一年网络领域会有大量负面事件"，听着就更像一句提前打招呼的话，而不是吓唬人。
四、比网络更让人后背发凉的，是生物实验室
网络攻击是眼前看得见的，但盖茨心里那根最紧的弦，其实在别处——生物安全。他之前说过一个数字，说生物恐怖主义的风险和可能性，大约是自然大流行病的50倍。这句话的分量，经历过这几年的人应该都懂。
担心这事的不只他一个。英国军情五处局长McCallum在13号的年度威胁评估里，也把话说得很直白：AI正在加速网络攻防两边的较量，而最让他揪心的，是AI可能改变现有甚至新型生物武器的风险格局。他坦言，这种威胁还没变成现实，可一旦安全防护失效，那些原本够不着化学、生物、放射性武器知识的恐怖分子，可能借助AI补上这块短板。就在13号，军情五处宣布成立了一个AI威胁评估中心，专门盯着这类风险。
连情报机构都开始专门设部门来盯AI了，这事的分量，可想而知。
五、最尴尬的是：道理谁都懂，监管却跟不上
盖茨多次强调，AI不能靠科技公司自己"管自己"。他甚至提出，该不该像管航空、管药品那样，专门设一个监管机构来管AI。在他看来，未来一年里，行业的治理必须迈过"光靠自律"这道坎，而眼下投进去的资源，明显远远不够。
可现实往往比道理复杂。一边是盖茨这样呼吁强监管的声音，另一边，特朗普政府目前更上心的，还是怎么让美国在AI这场竞赛里保持领先，监管主要靠跟头部科技公司签自愿协议。要速度还是要安全，这道题全球都还没想明白。
也许盖茨真正想说的是这么一层意思：AI这东西，上限能带我们去从没去过的地方，下限也能把人拖进从没想过要防的坑。它到底是"最危险的发明"还是最有用的工具，可能不取决于AI本身，而取决于我们这群拿它的人，脑子够不够清醒。
热门跟贴