2024年2月12日晚上，数十名抗议者聚集在 OpenAI 位于旧金山的办事处外面，表达了反对该公司最近的政策变化及其与军方客户之间的关系这个立场。

这次抗议活动由 Pause AI 和 No AGI 共同组织，旨在说服 OpenAI 的工程师们重新考虑他们在先进 AI 系统方面所做的工作，包括备受争议的通用人工智能（AGI）。

政策变化和军队瓜葛引发争议

引发这次抗议的导火索是 OpenAI 上个月决定从其使用政策中删除先前禁止将其 AI技术用于军事用途的措辞。在这一政策变化后不久，有关 OpenAI 接受五角大楼这个客户的报道在 AI 伦理倡导者当中引发了广泛的争论和担忧。

抗议者传达的信息很明确：OpenAI 应该停止开发可能导致 AGI 的 AI 技术，在将来，机器可能会超越人类的智能。此外，他们呼吁立即停止与军队的任何合作。即将在纽约举行的 AI 影响之旅（AI Impact Tour）旗帜鲜明地表明了这个立场。这是与微软合作举办的一场活动，旨在讨论兼顾 AI 的风险和回报。

不同的目标将抗议者团结起来

尽管这两个组织抗议的团体共享一个共同的平台，但它们对成功的看法略有不同。No AGI 的 Sam Kirchener 强调了追求 AGI 面临的危险，他改而主张采用全脑模拟等优先考虑人类智能的方法。相比之下，Pause AI 的 Holly Elmore 呼吁全球暂停 AGI 开发，直至安全得到保证，并强调 OpenAI 需要切断与军方的关系，这是一个至关重要的道德界限。

这次抗议标志着当下关于 AI 发展的伦理影响的大讨论迎来关键时刻。OpenAI 取消了对军事用途的限制，并与五角大楼进行了接洽，这引发了外界对 AI 技术军事化及其更广泛的社会影响的严重担忧。

关于 AI 的未来和伦理界限的争论

抗议者对 AGI 可能从根本上改变社会结构、权力动态以及人类劳动的意义表达了一种根深蒂固的恐惧。据 Kirchener 声称，机器完成所有人类任务的后 AGI 世界这个概念对社会凝聚力和个人目标构成了心理威胁。

Elmore 发表的观点强调了对 AI 公司内部自我监管的怀疑，并指出 OpenAI的政策逆转是表明需要外部监管的证据。OpenAI 在高管问责制和使用政策等关键问题上的立场发生波动，已经削弱了信任，如果内部政策没有实质性制约公司的行为，那么内部政策的有效性就会受到质疑。

抗议活动突显了人们日益不信任 AI 发展的轨迹，尤其是在 AGI 和军事应用方面。Pause AI 和 No AGI 都表明，他们打算继续开展倡导和抗议行动，旨在吸引更广泛的受众加入这些重要的大讨论。

随着硅谷在 AI 创新方面继续向前迈进，抗议者的声音突显了迫切需要兼顾的AI 发展方法，这种方法考虑了伦理影响、社会影响以及不受约束的技术进步带来的潜在风险。