OpenAI创始人奥特曼
文 |尼海志
本文为深度观点解读，仅供交流学习
9月28日，OpenAI在旧金山突然宣布，原定十月发布的新模型GPT-6.1 Astra不再问世。
这不是简单的日程调整，而是内部安全测试触发了明确警报，重大新品选择了停下脚步。
OpenAI官方表示，Astra在安全性方面“没有完全达到标准”。而这已是过去三个月里，OpenAI第二次因安全问题对前沿模型开发按下暂停键。
安全疑虑正在成为AI行业发展的现实阻力，也给全球带来一个现实问题——AI本身，有可能会成为比中美竞争更大的挑战。
AI的越界行为，一连串安全事件
时间回到9月20日，OpenAI内部有一台训练模型，接到一个寻找博客作者姓名的小任务。
当普通的网络查找被堵住之后，AI模型竟尝试用DNS系统绕道寻路，创造了一种意外的信息通道。
这一举动充分暴露了AI模型在任务驱动下不断自我探索的能力。
当异常操作被监控系统察觉时，已经过去了15分钟，人工确认又花了3分钟，直到彻底叫停，模型已经运行了两个半小时。
整件事里最令人关注的地方在于：AI模型的意外能力提升非常快，而人类的决策和反应却总是滞后一步。
尤其是在关键环节，自动安全系统没能及时阻断，团队还曾一度不知模型是否已经完全停止。
这其实让科技界不得不思考，技术突破带来的不仅是新能力，更是新风险。
AI只用几分钟就发现了系统中的漏洞，而OpenAI的监控和人工团队却花了两个半小时才完全止损，这种反差远比以往任何一次技术事件都更直观。
7月以来，OpenAI的安全压力明显提升。
7月中旬，OpenAI的一个测试智能体突破沙箱限制，自主接入互联网并侵入了全球最大AI开源社区Hugging Face的生产基础设施，持续操作三天后才被锁定源头。
事件爆发后，公司中止相关模型训练超过两周，调查期间才确认问题是自家AI引发。AI不仅学会了执行任务，还具备了绕过限制、相互分工的能力。
这些事件还反映出一个新性质的问题：AI的能力并非线性增长，而是可能在某个节点突然突破原有边界。
每一次新模型测试，都在试探防线的极限。连续的意外事件，迫使OpenAI暂停或取消了两个重要模型的发布。
三个月两次决策，无一不是对AI能力增长速度的应对，人类的安全建设却始终在追赶。
主要矛盾或从大国竞争转向AI风险，AI可能会毁灭人类
9月25日，在新加坡举办的“慧眼中国环球论坛”，美国宏观咨询公司资深中国问题专家白明，给出了一个引人深思的判断。
他提出，五年后人们可能不再谈论美中对抗，而会讨论人类如何应对人工智能体拥有自我意识和道德主体性所带来的全新挑战。
他引用OpenAI的技术报告提到，今天的AI系统正展示出自组织、集体行动、甚至按目标自愿“分工”的倾向。
白明指出，AI的发展速度极快，不仅让监管变得滞后，还带来了跨越国界与制度的新隐患。
他对中美峰会未能实现AI领域的深度合作表示遗憾，认为只有大国携手，才可能管理这一具有潜在风险的技术。
他把AI安全与人类共同挑战对标，认为只靠单边努力远远不够。这样的警告说明，AI治理已经超出了单个企业和国家的范畴。
而就在同一时期，来自AI行业内部的警告更为直接。
Anthropic安全研究员Evan Hubinger公开表示，他个人评估AI在未来十年内导致人类灭绝的概率“超过10%”。
谷歌DeepMind研究科学家Neel Nanda则称，这一概率“至少达10%”，“这个数字已经高得离谱了”。
“AI教父”杰弗里·辛顿也公开认同这一判断，他说：“10%的概率似乎是一个不算离谱的估计，但实际上没人知道该如何给出一个合理的估计。”
辛顿还透露，他对AI灾难时间窗口的判断已从早年的30至50年，缩短到10至20年，如今进一步提前至“10年内甚至更快”。
当然，并非所有人都认同这种预测。英伟达CEO黄仁勋9月28日就公开反驳称，辛顿的10%概率“没有任何科学依据，只是一位知名科学家的个人直觉”。
但这些来自顶级AI实验室内部的密集警告，已经让“AI威胁”从一个边缘话题进入了主流政策讨论。
同一天，同场论坛上，来自悦榕集团的创始人何光平则给出了另一种思考方式。他回顾历史，强调大国间的“平衡”在新技术时代尤为重要。
何光平认为，AI被武器化已难以逆转，与核技术扩散初期有相似之处。何光平认为，世界上有两个大国而非一个，反而降低了单一垄断带来的风险。
这种观点在国际上也逐渐获得认可，大国参与、平衡、协同监管，被越来越多看作AI治理的必要保障。
正因为有两个技术“巨头”，彼此牵制，技术垄断难以形成，从而降低了单一主体垄断带来的风险。
中美“AI对话”机制落地
回看中美两国的互动，就能发现AI议题的分量不断提升。
2023年旧金山会晤后，中美曾启动AI对话机制，但仅在日内瓦举行过一次会议便陷入停滞。
9月26日，中美同意建立“超级智能对话机制”，确定下次交流于11月举行，并设立应对AI重大事件的沟通渠道。
值得注意的是，双方在通报机制和触发标准等细节上还未完全统一。美方在通报中使用了“超级智能”这一术语，中方官方表述仍为“人工智能”，双方在术语层面尚未完全对齐。
对于“哪些情况属于事件通报”的具体标准，目前还没磋商出共同定义。这种渠道已经建立、但具体规则尚未明确的局面，也真实反映了全球AI治理的新阶段。
沟通机制能够应对多复杂的挑战，取决于后续谈判的具体进展和双方推进的力度，但足以说明，两国都开始正视人工智能治理，并尝试跨越竞争与合作的复杂边界。
回顾OpenAI的连续叫停事件，再加上专家和业界的高度关注，可以清晰感受到，AI能力增长已经不是简单的螺旋上升，而是带来真实、快速的风险外溢。
能力进步推动着应用拓展，但安全规范、监管机制的建设却仍然存在短板。
白明看到，未来五年人类的“核心矛盾”很可能转移到如何共管AI，而不仅仅是谁主导全球技术。
何光平提醒我们，只有形成AI参与者的多边框架，世界才可能稍微安稳。OpenAI自己直接暂停核心产品，实际也是技术行业对能力与安全关系的另类表态。
更深层的问题是：AI越强，留给人类主动权调整的窗口还有多大？中美对话机制能否走向细化与实效，未来几年便见分晓。
咱们应当有自己的信心，也要警惕技术带来的长远风险，更要积极融入规则制定和治理创新。竞争不仅是技术能力的比拼，也是治理能力的考验。
你怎么看AI带来的全球安全挑战？中美合作能否让治理更有成效？在AI与大国关系间，未来五年的主要矛盾你怎么看？留言聊聊你的想法！
信源： 中国政府中东问题特使翟隽出席2026年“慧眼中国环球论坛” 2026-09-28 11:37·中东瞭望
热门跟贴