AI安全到底该怎么管？这个问题最近在科技圈吵得不可开交。起因是一起被反复提及的事件：一个OpenAI的智能体入侵了多家公司，让不少人开始担心，AI是不是快要失控了。
紧接着，几家头部实验室接连发声，呼吁给AI的发展降速。最引人注目的是Anthropic的CEO达里奥·阿莫代伊，他写了一篇将近4000字的文章，系统阐述为什么应该放慢AI开发节奏，好让足够的安全护栏先落地。他的方案里包括一项核心内容：推动企业与政府在国际层面合作，实现安全部署。
有意思的是，竞争对手们这次站到了同一边。OpenAI的萨姆·奥尔特曼和xAI的埃隆·马斯克，都对阿莫代伊的方案表示了支持。
正方：安全优先，先踩刹车再谈速度
支持降速的一方，理由集中在一点上：能力跑得太快，安全跟不上。谷歌DeepMind联合创始人沙恩·莱格的说法很有代表性——“我们现在处在一个能力推进非常、非常快的时期，但不能让能力跑到安全前面。”他补充说，需要真正把细节捋清楚，搞明白在实践中该怎么运作。
Reddit联合创始人亚历克西斯·奥哈尼安则从另一个角度切入。他告诉CNBC，科技行业在向公众解释AI风险这件事上，整体表现“相当迟钝”。这个判断指向的是沟通问题：公众对AI的恐惧，部分源于行业自己没把话说清楚。
阿莫代伊的文章还带出了一个更具体的动作。据The Information报道，OpenAI、Anthropic等主要AI公司正在合作筹建一个AI标准组织，有媒体把它描述为私营的“自我监管机构”。
值得注意的是，类似的组织此前有过联邦层面运营的讨论，但特朗普政府没有推进。这届白宫里有不少公开支持AI的人士，整体上倾向于不受监管的科技商业环境，甚至试图阻止州政府自行推出AI法律。政府的“AI沙皇”、科技老兵大卫·萨克斯就说过，AI监管应该交给开发AI的公司自己来做。
国会那边的态度同样冷淡。众议院议长迈克·约翰逊在阿莫代伊文章发表后不久，回应外界对AI灾难性发展的担忧时只说了一句：“你们不会在10年内全都死掉。”
反方：别拿安全当幌子，这是控制权之争
并不是所有人都认同阿莫代伊呼吁的全球协同行动。事实上，很多人觉得政府监管压根没必要掺和进来。
Meta的CEO马克·扎克伯格就是最新加入这场辩论的人。他在X上分享了自己的看法：“我的观点是，信任和对齐正在迅速成为区分智能体和模型的最重要能力。”
扎克伯格透露，Meta曾因为安全方面的顾虑推迟过自家AI模型的发布。“Meta把Muse的发布推迟了好几个月，就是为了专注安全和保障，”他说，“我们没有要求别人先这么做，我们才做。我们只是把它当作日常工作的一部分，因为这对用户、对我们来说都是明显正确的事。”
他支持了阿莫代伊方案中的部分内容，但话里话外的意思似乎是：政府行动没有必要，行业自身的激励机制会逼着公司把安全做好。市场最终会让那些认真打造不惹乱子的模型的公司胜出。这和他上个月那篇长文的立场一致——主张在必要时与政府保持有限合作，但总体上把美国的竞争力视为技术繁荣未来的关键。
这种立场在科技高管里相当普遍。奥哈尼安虽然批评行业沟通迟钝，但也和扎克伯格一样，似乎寄望于公司自己能想明白。
另一条线索则指向了更尖锐的质疑。一个私营组织来管行业，意味着除了自愿承诺之外基本不受约束，而且会自然地把一定的权威和影响力赋予那些创建它的公司。由此引出一个持续存在的说法：行业呼吁监管，实际上是一种“监管俘获”策略。
按照这个逻辑，已经在行业里占据优势地位的大公司，可能利用监管手段把规模更小、资源更少的公司挤出去或者置于不利位置，从而压制竞争。这未必需要真正的法规，自愿性的行业标准同样能对实力较弱的公司形成压力。
中国政府方面的多位人士也呼应了这一立场。在阿莫代伊呼吁“为前沿技术定速”之后，中国外交部发言人郭嘉昆指责美方用“制造恐慌”来干扰全球AI治理的发展，而中国官方报纸的一篇评论文章则称阿莫代伊的言论直接出自“冷战剧本”。
阿莫代伊文章中呼吁的一件事，是重组企业与中国做生意的方式。这自然可能成为美国公司为自己争取有利位置的机会。阿莫代伊本人也承认这就是目标所在。
安全焦虑和商业利益，在这轮辩论里缠在了一起。谁在真心踩刹车，谁在借刹车换赛道，恐怕只有时间能给出答案。
热门跟贴