在最新一期播客采访中，OpenAI CEO 萨姆·奥尔特曼的态度出现了一个不易察觉的转向。他首次公开表示，“我们可能需要把控AI发展的速度，给自己足够的时间，让社会适应这些新的能力水平并建立起防护机制。”这和他两年前拒绝签署那封呼吁“暂停巨型AI实验”公开信时的立场截然不同。时间拨回到2023年，奥尔特曼曾批评那份倡议“缺少关于我们究竟需要在哪些方面暂停发展的关键技术细节”，而如今，他自己也开始谈论“把控前沿”的必要性。
这番表态并非孤立事件。两天前，一封由1100多名AI从业者联合签署的公开信被递交到美国政府面前，签名栏里坐着 Anthropic CEO 达里奥·阿莫代伊、OpenAI 首席科学家雅库布·帕霍茨基、Meta 首席科学家赵晟佳，以及谷歌 DeepMind AI 安全与对齐负责人安卡·德拉甘等一众头部 AI 公司的高管与核心技术人员。信中的措辞并不激进，但立场足够清晰：“我们呼吁美国政府支持一项国际合作，开发必要的技术和治理工具，以便能够有意识地把控自动化AI开发的前沿进程。”这个倡议被命名为“把控前沿”（Pacing the Frontier），它意图在AI迈入能自行改进AI系统的临界点之前，先搭建一套人工可以随时介入的刹车装置。
支持控速的逻辑锚定在一个技术趋势上——自动化AI开发，也就是业内常说的“递归式自我改进”。公开信指出，今天人类工程师仍然主导着模型的设计与优化，但 Claude 系列模型正在快速接近能够自主完成这些工作的门槛，而“很难准确预测这将在多大程度上加速AI的进步”。一旦AI具备了自我迭代的能力，其能力增长曲线就可能脱离人类的社会适应节奏和治理框架。信中坦言，“确实存在一种真实的风险：AI能力的发展速度会迅速加快，超出我们理解或控制这些由此产生的系统的能力。”Anthropic 随后在社交媒体上补充，该公司上个月发布的一项关于递归式自我改进的研究表明，如果不提前植入可以动态调节研发节奏的机制，社会很可能被迫在准备不足的情况下直面一系列性能陡升的模型。
但控速方案内部的张力也随之浮出水面。奥尔特曼在同一场采访中特意划出两条红线：“需要想办法做到这一点，既不能让任何人觉得这是监管俘获，也不能让人觉得这是前沿AI实验室之间的串通。”监管俘获意味着规则的制定权被少数先行者垄断，反过来压制后来者创新；而串通嫌疑则会让公众怀疑头部实验室借“安全”之名合谋限制竞争、固化市场地位。这番补充暴露了一个两难境地：如果没有头部公司的技术输入，监管机构可能连“该在哪个环节装刹车”都判断不出来；可如果全程依赖这些公司的技术判断，又可能让刹车装置变成私有的调速工具。OpenAI 在其官方账号上的声明也印证了这种谨慎，该公司表示相信“在未来的某个时间点，前沿模型开发中的AI加速可能会如此之快，以至于世界将需要把控AI进步的速度”，但并未进一步说明具体由谁来把控、以什么标准把控。
回顾过去两年，美国头部AI公司对政府干预的态度已经发生明显倾斜。2023年那封要求“暂停训练比GPT-4更强大的AI系统至少6个月”的公开信，虽然获得了超过3万个签名，却遭到了奥尔特曼和多位技术高管的冷遇，理由是“没有可操作的路线图”。而这一次的“把控前沿”倡议，没有设定硬性的暂停时间表，转而强调“开发具备有意识调控能力的工具和治理框架”，实质上是从“踩死刹车”转向了“装配可调节的档位”。这一变化恰好呼应了签署者群体的特殊性——他们大多来自企业内部的安全研究团队或前沿能力评估组，对模型能力进展有第一手数据，也更倾向于用工程化思维去设计干预方案，而不是单纯依赖禁令。
如果说2023年的公开信代表了一种外部预警，那么“把控前沿”则更像一次内部协商的产物。它的战术选择是向政府摊开一张技术路线图，请求建立一套共通的监测仪表盘，使得监管机构能够在AI系统接近自我改进临界点时收到实时信号，并有权限启动预先议定的减速流程。这种做法试图在“放任狂奔”和“一刀切禁令”之间找到第三条路径。然而，公开信没有回答一个关键问题：当这些仪表盘本身由被监管对象研发、维护和解读时，政府是否有足够的能力独立校准读数？奥尔特曼所担忧的“监管俘获”风险，恰恰可能重现在技术标准的制定环节。
控速议题走到今天，核心困境不在于要不要装刹车，而在于谁来设计刹车片与刹车油的配方。1100多名签名者毫无疑问传递了一个信号：即便在商业竞争最激烈的领域，相当一部分从业者依然愿意接受外部约束，来对冲自身研发进程的不确定性。但这个信号能否转化为可执行的制度，最终取决于联邦政府能否在听取企业技术建议的同时，保持研判与决策的独立性。毕竟，一个由少数几家实验室内部团队主导设计的“控速机制”，随时可能从社会防护网滑向另一种形式的护城河。
热门跟贴