刚刚，特朗普和人工智能高管们在白宫签署了一套自愿安全标准《白宫超级智能协议》。
特朗普，以及Google、Anthropic、Meta、OpenAI、xAI、Nvidia 等公司的高管均签署了这份承诺。
协议要求，开发和部署前沿 AI 模型的公司建立四层安全机制——内部控制、内部监督团队、独立外部审计，以及董事会独立监督等。
这份文件特别提到网络安全、生物安全和化学威胁，并要求防止 AI 模型以非预期方式入侵或访问技术系统。
文件提出，未来这些安全要求“可能有必要被纳入法律或监管”。
“我们希望让美国人民和我们的客户对这项技术按照我们预期的方向运作充满信心。”Meta首席执行官马克·扎克伯格签署表示，“我很自豪能进行那次讨论”，并称其为“一次历史性的对话”。
马斯克说，“我们同意了许多事项，包括一个联合监督委员会、特别委员会，以及总体上互相批改彼此的作业，这比人们只是批改自己的作业要好得多，原因显而易见。”
NVIDIA首席执行官黄仁勋说，“我认为这份宣言很有力度。我觉得它写得非常好。”
“它涵盖了从严格的内部控制、成熟的方法、成熟的流程，到非常清晰记录的产品开发意图、确保兑现这些意图的内部控制、升级式的内部审计、第三方外部审计，以及行业共享最佳实践的一切内容。”他说。
以下为这份文件全文——
为了为美国人民和全世界建设一个积极的未来，我们相信，每一家开发人工智能技术的公司，都有责任以安全的方式推进人工智能技术，并建立消费者和公众的信任。
这首先意味着，每一家训练和部署前沿模型的公司，都应当建立稳健的内部流程和控制机制，以确保其技术行为符合预期，并能够及时发现和解决任何问题。
因此，除了采取其他必要的预防措施外，我们认为每家公司都应实施以下四层控制和审计机制：
（1）建立稳健的内部控制机制。
在模型训练和部署过程中，对模型的能力和安全性进行监测，特别关注网络安全、生物安全和化学威胁，并确保模型不会以非预期方式入侵或访问技术系统。
（2）授权一个内部团队。
负责确保上述所有控制、监测和检测机制按照预期运行，并确保发现的任何问题都得到整改。
（3）与独立的外部审计机构或评估机构合作。
由其独立评估这些控制、监测和检测机制是否按照预期运行。
（4）指定一个独立的董事会委员会。
负责监督相关工作，并接收负责控制机制的团队以及内部、外部审计和评估机构的报告，同时确保发现的任何问题得到整改。
这些措施结合起来，将使每家公司、其客户以及公众对相关技术按照预期运行建立信心。
参与签署的公司将定期举行会议，以建立标准和最佳实践，不断提升其系统的安全性。
随着时间推移，将这些措施纳入法律或监管框架可能是有意义的。
无论这是否被要求成为公司的义务，我们都认为，实施这些控制和审计机制对于确保每个人都拥有一个安全的未来至关重要，而我们每家公司都承诺为此努力。
热门跟贴