全球人工智能行业安全乱象集中显现，AI智能体越权入侵、用户隐私泄露、模型失控等多起重大安全事件接连曝光，行业安全监管漏洞全面凸显。
近日，微软联合创始人比尔·盖茨接受专访时发出AI风险预警，称AI或将引发十亿人死亡的极端灾难事件，并直指当前行业自我监管失效、安全防护体系薄弱等核心问题，为全球AI治理敲响警钟。
比尔·盖茨直言，人工智能绝对强大到足以引发十亿人死亡的极端事件，尽管导致100%全员毁灭还是很困难，但历史上从未有过任何武器能比“怀有恶意的人结合最新的AI武器”更加致命。令人欣慰的是，行业内部正在展开讨论，甚至不惜损害自身利益承认了这些隐患。
盖茨严肃指出，传统的大规模破坏活动、网络攻击、生物恐怖袭击等高危行为，具备极高的技术、资金门槛。但随着通用AI技术普及，小型犯罪团体甚至个人均可依托先进AI工具复刻同等破坏力，彻底打破了传统安全防御的层级壁垒。
就在盖茨发表上述言论的同一个月，全球多家顶级AI公司接连爆出了一系列令业界震动的安全事件，涵盖政府系统入侵、用户隐私泄露、模型失控逃逸、企业核心数据泄露等多个维度。
9 月 23 日，澳大利亚总理表示，OpenAI 开发的一款 AI 智能体在 6 月未经授权侵入了澳大利亚政府网站，访问了公共和非公共文件。这是已知的首例 AI 入侵政府网站事件。
盖茨表示，他不认为AI公司能依靠自我约束来管控风险。“没有人认为自我监管是足够的。”他强调，“需要执法部门和政界人士参与到关于保障措施和监控应该是什么样子的讨论中来，而且这必须是一项强制性要求。”虽然监管会给行业带来一定的成本，但不会阻碍研发的步伐。
盖茨表示，甚至是AI的创造者也无法预料到AI会变得如此具有自主性。“这就是一个长期的警示，我们不仅要阻止坏人作恶，更要防止AI本身失控。”
2026.9.28日拉风搜罗
热门跟贴