打开网易新闻 查看精彩图片

首席执行官变动与新挑战

OpenAI 刚刚在一篇博客中宣布，其首席执行官 Sam Altman 已经从 5 月新成立的内部安全与安保委员会中辞职。该委员会被设立为独立机构，负责重要的安全监督工作。

这个独立委员会的领导者为卡内基梅隆大学的 Zico Kolter 教授。其成员阵容强大，包括 Quora CEO Adam D'Angelo、美国退役陆军将军 Paul Nakasone 以及前索尼高管 Nicole Seligman。他们均是 OpenAI 董事会的现任成员。

在 Sam Altman 辞去职务后，这个委员会就已经对 OpenAI 最新的模型 o1 完成了一次全面的安全性审查，确保所有潜在的安全问题在模型发布前得到妥善解决。这一举措对于保障相关项目的安全性具有至关重要的意义。

持续的安全审查与预警系统

在 Sam Altman 离开后， OpenAI的内部安全与保护委员会将继续定期接受来自公司安全团队的最新情况汇报，并拥有在识别出未解决的安全隐患时推迟新 AI 模型发布的权力。

此次变动紧随美国立法者对该公司的加强审查。不久前，有五位参议员在一封公开信中向 Sam Altman 表达了对 OpenAI 安全策略的严重关切。与此同时，一批专注于人工智能长期风险的核心员工选择离开，他们中的一些前研究人员甚至公开批评 Sam Altman，认为 Sam Altman在人工智能监管方面的立场可能会损害公司的商业利益。

压力山大：监管与批评

这种批评似乎与 OpenAI 在联邦游说方面不断加大的投入相呼应。公司在 2024 年上半年的游说预算已经增至 80 万美元，相比之下， 2023 年整个全年仅为 26 万美元。此外， Sam Altman 还被任命为国土安全部人工智能安全与保障委员会的成员，该委员会负责为美国关键基础设施的人工智能开发和部署提供策略指导。这些一系列动作标志着 Sam Altman在人工智能安全领域的深远影响和持续贡献。

游说活动与外部角色

尽管 Sam Altman 不再担任 OpenAI 安全与保障委员会的一员，但有观点担忧委员会可能不会采取决策，这些决策如果对 OpenAI 的商业目标产生重大影响。公司在 5 月的声明中提到，他们致力于解决 “合理的批评 ”，但这种评判标准似乎还是较为主观。

前董事会成员，如 Helen Toner 和 Tasha McCauley，公开对公司依赖自我监管的能力表达了疑虑，他们认为公司面临的利润驱动压力可能会影响其监管效力。

筹资与公司未来方向的担忧

此外，据报道 OpenAI 正在努力筹集超过 65 亿美元资金，预计此举将使公司估值飙升至超过 1500 亿美元。这种资金动向引发了一系列担忧。

有传言称， OpenAI 可能考虑放弃其非营利的混合结构，转向更传统的公司运作模式，以吸引更多投资并提供更高回报，但这种转变可能使公司进一步背离其初衷，即开发造福全人类的人工智能技术。