OpenAI 公布了一组关于 AI 如何改变其内部研究实践的新数据。研究人员对 AI 的使用呈指数级增长,智能体正在处理越来越复杂的任务,但人类监督仍然不可缺位。

这组发现里有一个容易被忽略的细节:在安全与对齐方面,人力投入的增长速度超过了该组织其他任何个人研究领域。AI 越能干,盯住它的人反而越多。

OpenAI 由此提出一项主张:AI 实验室必须对递归自我改进(RSI)指标进行跟踪,并向公众报告。理由是,借助行业标准化的测量方法,才能为日益强大的 AI 系统治理提供依据。

换句话说,能力在涨,任务在变复杂,但"人还在场"这件事被摆到了更靠前的位置。而 RSI 指标的公共报告,是 OpenAI 希望整个行业一起接的活。