“从未有过任何一种武器，能比得上怀有恶意的人借助最新AI工具所形成的威胁。”
9月25日，比尔·盖茨在NBC《与媒体见面》节目中扔出了这句话。他说，AI已经强大到足以引发导致十亿人死亡的事件。该节目将于27日正式播出。
十亿人是什么概念？
二战打了六年，全球死亡约7000万。一次AI引发的灾难，可能是二战的十几倍。
盖茨不是在说AI会“自己觉醒”。他说的是另一件事—— “怀有恶意的人”加上“最新AI工具” 。过去一个恐怖分子想搞生化袭击，需要实验室、需要原料、需要专业知识。现在呢？AI可以帮他从零开始设计病原体、合成路径、传播方案。核武器至少还需要铀矿和离心机，AI大规模杀伤的门槛，正在被拉到“一个有电脑的疯子”的高度。
盖茨8月就在个人网站发文警告过：不法分子可能利用AI对医院、金融机构、电网和政府系统发动网络攻击、欺诈、散布虚假信息。这不是科幻片。今年9月，Anthropic发布了一份威胁报告，揭露其AI模型在过去九个月内遭到国家支持的黑客、犯罪团伙及生物武器相关研究人员的滥用。有人在用AI研究怎么造生物武器，不是假设，是已经发生了。
但盖茨真正的矛头，对准的不是AI，是“行业自律”。
他说得很直白：“自我监管是不够的。你需要执法部门和政界人士参与讨论，保障措施和监督机制应该是什么样的。这必须成为一项强制性要求”。
翻译一下：科技公司靠自觉，靠不住。
为什么靠不住？盖茨自己说了原因——科技行业知道这些威胁，却在刻意淡化，因为过多风险警示可能会影响融资。说穿了，安全投入是成本，融资才是命根子。让企业自己去定安全标准，等于让赛车手自己去定限速规则。
那怎么办？三条路，缺一不可。
第一条，立法强制。 不是鼓励、不是倡议，是法律。AI模型的开发、部署、跨境流动，必须纳入强制监管框架。中国已经在走这条路——今年9月，全国网络安全标准化技术委员会发布《人工智能安全治理框架3.0》，明确根据技术发展趋势更新风险分类和应对措施。方向是对的，关键在落实。
第二条，技术设防。 给AI“装安全阀”。比如对涉及生物、化学、核等敏感领域的AI查询设置硬性拦截，对智能体的自主行动权限实施分类分级管理。让AI知道“能做什么”的同时，更清楚“不能做什么”。
第三条，全球协作。 AI没有国界，风险也没有。今年7月，联合国秘书长古特雷斯呼吁对AI实施广泛而全面的全球管控，因为“杀人机器人”已经在战场上出现了。中国在联合国安理会提出，要坚决打击恐怖组织、极端势力和跨国犯罪集团恶用滥用人工智能，确保人类始终掌握最终决策权。
盖茨的话听着吓人，但核心逻辑其实很朴素：技术跑得越快，缰绳就得攥得越紧。 一个能用AI造出十亿人灾难的世界，和一个能用AI治愈癌症、解决能源危机的世界，用的是同一套技术。区别只在于，缰绳在谁手里，攥得有多紧。
你觉得AI的缰绳，该由谁来攥？评论区聊聊。
素材来源： 整合自光明网、俄罗斯卫星通讯社、新浪财经、上观新闻、联合国官网、搜狐新闻、Anthropic威胁情报报告等平台及媒体报道。
#比尔.盖茨发长文严厉警告人类注意AI#
热门跟贴