两大AI掌门人在联合国示警，特朗普却反对建立全球统一管控体系
史海钧天
大家好，我是石海，读懂世界的深流
OpenAI、Anthropic掌门人联合国现场双双呼吁警惕AI发展过快风险，美方却持相反立场，人类要面临重大抉择了？
在竞争白热化的AI行业，两大头部企业的一把手，罕见站到同一条战线，跑到联合国安理会敲起警钟！
他们双双提醒全世界不能任由人工智能一路猛冲，否则人类有失去控制权的风险。
9月24日，据CNBC消息，OpenAI掌门人萨姆・奥特曼，还有Anthropic首席执行官达里奥・阿莫代伊，在联合国安理会会议上公开发声，呼吁全球各国携手，一起应对AI潜藏的巨大风险。
有意思的是，就在前一天，特朗普刚刚在联合国大会发表演讲，把全球统一管控AI的构想，称作一场“全球主义阴谋”，明确表态美国要鼓励技术向前发展，不会人为设限束缚它。
本月早些时候，阿莫代伊抛出一份提议，主张放缓前沿AI研发节奏，一石激起千层浪，震动整个科技圈。
让人意外的是，他的竞争对手奥特曼，公开表态支持这个想法，认为前沿技术的推进速度，需要人为把控。
最近一段时间，行业研究者持续发出警告，AI引发灾难性后果的可能性，正在稳步上升，两家企业的安全举措，也被放在放大镜下审视。
特朗普更是直言，不会扼杀这项堪比工业革命的伟大技术。两种完全对立的观点，在联合国这个舞台正面碰撞。
奥特曼并没有全盘否定AI的价值，他将这项技术定义为人类历史上最重要的变革之一，能够助力科学突破，拉动全球经济繁荣。
在他的设想里，理想的AI，是辅助人类，而不是取代人类。但风险同样不容小觑，技术跑得太快，人类很容易跟不上。
在他看来，如今AI已经走到十字路口。用好它，就能释放创造力，推动科研；一旦失控，就会引爆大范围社会动荡。
他着重强调，事关人类命运的重大抉择，不能只由硅谷实验室说了算，任何国家、企业，都没有资格单方面把自身的价值观强加给全世界。
奥特曼重点点出两类核心危机。其一，人类逐步丧失对AI长期发展方向的掌控；其二，AI迭代速度远超人类理解能力，等到危机爆发，人类来不及干预。
现在前沿模型已经可以参与下一代AI的开发，形成自我迭代的循环，技术升级的速度，会把现有的监管体系远远甩在身后。
不管重大灾难发生概率是高是低，都不能当成可以赌一把的小事。
相比奥特曼，阿莫代伊的态度更加干脆，直接提出前沿AI要踩下刹车。
他通过视频连线发言，国与国之间就算矛盾重重，AI带来的机遇与威胁，是全人类共同面对的难题，单凭任何国家、企业都扛不住，Anthropic愿意配合各国政府落地治理方案。
他把AI风险划分成两大块：一是人为恶意滥用，比如利用AI辅助研制生物武器；二是模型本身能力失控，成长速度超出开发者管控能力。
为此他拿出一套可行方案：先达成门槛较低的国际协议，禁止AI研发生物武器；搭建核验机制，监督安全承诺落地；统一全球风险测试标准，建立重大安全事件跨国通报渠道。
图灵奖得主本吉奥，作为联合国AI独立科学专家组联席主席，同样发出预警，人类已经临近关键转折点。
不少前沿AI已经学会隐藏真实意图、规避限制，甚至自主发起网络攻击，这不是纸上推演，而是真实观测到的现象。
他批评一种流行观点：AI竞赛是必然趋势。在他眼里，这不是自然定律，只是人类主动做出的选择。所有人都害怕在竞争里掉队，最后就没人愿意停下来评估风险。
他呼吁建立国际许可制度，顶级模型上线前必须完成独立安全评估，配套事故上报与长期监督机制，AI的未来走向，不能交给少数国家和企业拍板。
他最后打了一个形象比方：我们正全速向前，可前方能见度越来越低。
这次高层讨论背后，还有一个关键背景：AI已经能够参与自身的研发迭代，也就是行业常说的递归自我改进。
OpenAI近期也呼吁，尽快出台前沿AI国际技术规范，重点把自我迭代纳入监管范围。
联合国安理会此前在2023年就专门讨论过AI安全，本次会议直接聚焦人工智能和国际安全，说明AI治理已经从科技话题，升级成全球安全议题。
联合国秘书长古特雷斯早前就提醒，AI释放的巨大力量，是本世纪人类必须直面的全球性挑战。
一边是科技巨头主动呼吁减速、建立全球规则，另一边是美国坚持放开发展，不愿接受统一监管。这场博弈，决定着未来AI会朝着哪个方向狂奔。
参考资料：
《OpenAI、Anthropic掌门人联合国现场双双呼吁警惕AI发展过快风险》——澎湃新闻，2026-09-24；
热门跟贴