美国顶尖AI企业Anthropic的CEO达里奥·阿莫代伊，通过视频连线出席联合国安理会“人工智能与国际安全”高级别会议，这番发言让整个科技圈都震动起来。他直白地表达，自己对亲手打造的AI技术感到恐惧，直接把AI风险从单纯的技术难题上升到全球安全威胁层面，放出狠话，如果管控失当，AI有可能演变成威胁全人类的重大风险。一个AI技术的缔造者，站在全球最高安全议事平台抛出如此尖锐的警示，很多人不禁发问，这是发自内心的担忧，还是一场精心策划的公开表演。
阿莫代伊在会上提出三条全球治理方案，推动各国达成协议，禁止把AI技术用于研发制造生物武器，搭建跨国核验机制，监督各国落实安全承诺，同时制定统一的AI风险测试标准，建立AI安全突发事件的通报渠道。其实早在本月12日，阿莫代伊就发布长文，提出要为前沿AI研发“定速”，核心思路不是彻底停止模型训练，而是在模型训练完成、正式对外发布之前预留充足时间，完成安全评估与对齐工作。原因在于AI自我迭代的速度远超预期，一旦提速过快，人类很可能跟不上，失去对系统的理解与管控能力。这次在安理会上，他进一步对外宣布，Anthropic会主动单方面放慢前沿模型的迭代速度，还允许第三方评估人员进驻企业，实时监督研发全过程，主动给自己的研发工作套上外部约束。
阿莫代伊的这套观点，在行业内部引发巨大分歧。特朗普就曾公开反驳他的AI风险论调，认为AI只需要强有力且具备智慧的总统来把控，不需要额外的限制规则。另一边英伟达的黄仁勋也不认同过度渲染AI的末日风险，不少观察者认为，英伟达的商业根基高度绑定AI产业扩张，立场自然会受到自身商业利益的影响。
行业内部的危机感，不止来自CEO的公开表态。本月初，Anthropic研究员雅各布·考克森宣布离职，他有三年在OpenAI和Anthropic从事预训练研究的从业经历，离职感言的内容极具冲击力，他表示从事AI研发的从业者，很多发自内心相信，在这个十年结束之前，AI有可能威胁到全人类。随后Anthropic对齐科学团队负责人埃文·胡宾格也公开回应，认可考克森的判断，他个人预估未来十年AI带来生存级灾难的概率超过10%。一边是顶级研究员选择离职预警，一边是企业负责人主动踩下研发刹车，行业内部的焦虑已经摆上台面。
就在这场关于AI生存风险的争论持续发酵的时候，Anthropic在9月24日对外公布，旗下Claude模型发现了一种此前从未被人类发现的酶系统。这件事也让我们可以理性审视AI毁灭人类这个说法。按照我们现实世界的常识，很多人第一反应是AI想要伤害人类，只能依靠设计人类无法抵御的病毒。但生物武器的落地并没有那么简单，就算AI能够推演、设计出致命病毒，AI本身没有实体，想要付诸实施，依然需要现实中的人来操作。而且病毒在传播过程中会自然衰减，人类也拥有对应的防疫和医疗手段，很难做到无差别灭绝人类。
AI真正的危险，或许并不局限于生物层面。就算不制造病毒，失控的AI也有可能篡改、销毁海量数据库，瘫痪遍布社会的各类基础设施。银行系统数据错乱、全国支付链路停摆、关键档案凭空消失，都会引发大范围社会动荡。这种混乱和病毒灾难不一样，它没有物理边界，不会随着时间自然消退，也不存在地震、洪水这类灾害看得见的破坏痕迹，没有过往经验可以参考，普通人很难直观感知这类风险。
普通人对AI危害的感知大多停留在表层，更多讨论集中在就业冲击，AI大量替代岗位，进一步拉大技术精英、资本群体和普通民众之间的差距。对于AI可能引发的系统性底层危机，大众普遍会觉得距离现实十分遥远。有意思的是，越是深度参与AI研发、身居行业高位的人，对待这类潜在风险就越是严肃。
这件事最核心的特点，是风险代价的高度不对称。倘若阿莫代伊的警告言过其实，全球投入资源搭建安全评估体系，只是延缓技术变现的速度，损失的只是一部分商业收益。可一旦他的判断成真，人类可能没有补救的机会。所以，重视AI安全，本身是一件没有坏处的事，但安全治理想要落地，离不开世界各国的协同合作。阿莫代伊也承认，单凭任何一个国家、企业或者领导人，都无法独自应对AI带来的挑战，愿意和各国政府一起推进安全治理。
但这里存在一个很难调和的矛盾，一边呼吁全人类携手管控AI风险，另一边，阿莫代伊依旧支持限制向中国出口高端AI芯片与芯片制造设备，以此维持美国在AI赛道上的领先地位。连发出风险警报的核心人物，都无法放下技术竞争的地缘私心，可想而知，想要让美国政界、军方、科技与商界放下博弈，合力搭建一套可靠的AI安全体系，难度极高。目前全球最前沿的AI大模型试验、高强度训练大多集中在美国，这也带来一个隐忧，如果未来真的爆发严重的AI安全事故，风险爆发点很可能就出在这里。
AI本身兼具巨大价值与未知隐患，我们不必直接采信“AI会灭绝人类”这种极端预言，但也不能简单把行业高层的集体警示当成营销噱头。技术竞争和安全管控如何平衡，地缘博弈如何给全球AI治理让路，将会是未来很长一段时间，全世界都必须直面的难题。
热门跟贴