Meta对潜在高风险AI模型的担忧

2月4日，Meta发布了一份政策文件，表达了其对未来可能开发出具有“灾难性后果”的AI模型的担忧。该文件详细描述了公司计划采取的措施以防止这些模型的发布，但同时承认这些措施可能并不足以完全阻止潜在的风险。

定义高风险与关键风险AI系统

根据这份名为“Frontier AI Framework”的文件，Meta将AI系统分为两类：高风险和关键风险系统。高风险系统可能会使攻击变得更加容易实施，但不会像关键风险系统那样导致不可逆转的大规模破坏。关键风险系统则可能导致“灾难性后果”，即对人类造成大规模、毁灭性和不可逆的危害。

具体风险示例

文件中列举了一些具体的灾难性后果示例，包括但不限于：

- 自动化突破最佳实践保护的企业级计算机网络；

- 自动发现并利用零日漏洞；

- 对个人和企业实施全自动诈骗，造成广泛伤害；

- 开发和扩散高影响力的生物武器。

应对措施及局限性

Meta表示，一旦识别出关键风险，公司将立即停止相关模型的研发，并采取一切可能的措施防止其发布。然而，文件也坦率地指出，尽管会严格限制访问权限并加强安全防护，但并不能完全排除这些模型被泄露或发布的可能性。

结论

Meta的这一声明反映了公司在面对AI技术快速发展时所面临的挑战，既希望推动技术创新，又必须谨慎处理由此带来的潜在风险。

参考链接:
https://9to5mac.com/2025/02/04/meta-says-its-future-ai-models-could-have-catastrophic-outcomes/