周三，达里奥·阿莫代伊以Anthropic首席执行官身份就人工智能监管提出的设想，遭到知名科技投资人比尔·格利的公开批评。

阿莫代伊上周六在社交媒体平台X发表长文，主张放慢前沿AI模型能力提升的速度，为安全措施争取时间；同时提议由独立第三方评估团队获得类似公司员工的访问权限，核查AI企业的安全实践、报告事故并评估模型与训练流程。

这一表态获得OpenAI首席执行官萨姆·奥尔特曼与埃隆·马斯克的支持，围绕AI安全与“末日论”的讨论随之升温。

与这一“减速”主张相对，Meta首席执行官马克·扎克伯格周二表示，AI实验室依靠独立的评估者和顾问已足以确保模型安全，他不认为需要放缓AI的开发。

格利周三在X平台发帖称：“我不喜欢监管，原因有两个。第一，监管很难设计正确；第二，监管极易遭到‘监管俘获’。”

他补充道：“话虽如此，如果我们坚持要监管，那至少应该努力把监管机制设计正确。”

监管俘获（regulatory capture）指本应代表公共利益、监督特定行业的监管机构，逐渐被监管对象过度影响，最终在政策、执法或标准制定中更偏向行业利益而非公众利益。

格利此前供职于硅谷老牌风投机构Benchmark，最知名的投资是2011年向网约车公司Uber投入1100万美元。他还曾投资推特和Nextdoor，其中推特现已更名为X，由马斯克持有。

格利说，既然“安全”是这轮AI监管讨论的首要目标，他愿分享自己最近深入研究两起波音737 MAX空难与福岛核事故的结果。

在这两起案例中，调查最终都指向同一结论：“监管俘获”恰是导致安全事故发生的核心失灵因素；分别涉及波音与美国联邦航空管理局（FAA）、东京电力公司（Tepco）与日本原子能安全保安院（NISA）。

格利补充称，若安全是第一目标，监管者就必须是位于被监管企业之上、具备权力并承担问责责任的主体；认为监管者可以是与企业关系友好、彼此存在大量交叉联系的第三方，这种想法从结构上就有缺陷。

“去问问黑川清吧。”格利写道。黑川清曾领导日本国会福岛核事故独立调查委员会，将监管俘获视为事故的重要制度性原因。

这轮AI安全争论还引发了对一个问题的讨论：是否应当以限制AI技术发展来管控风险，即使这可能影响科技产业链的利润。

与此同时，相关争论进一步加剧了外界对AI是否可能威胁人类生存的担忧。

Okta联合创始人兼首席执行官Todd McKinnon认为，有关AI的悲观预测并非毫无根据，但属于极端情形。他称，若要开一个赌盘押注人类灭绝原因，他甚至不确定AI能否排进前50名；不过AI确实能制造头条，人们对此也非常兴奋。

市场有风险，投资需谨慎。本文为AI基于第三方数据生成，仅供参考，不构成个人投资建议。

本文源自：市场资讯

作者：知叙