微软首席执行官萨提亚·纳德拉当地时间10月10日在X（原推特）平台发文，提醒企业将先进的人工智能模型视为潜在的“内部威胁”，并从部署之初就为其设置“紧急刹车”机制。

纳德拉表示，部署先进AI的企业不应仅依赖模型开发商的安全保证，而应建立能限制模型行为、随时暂停或关闭模型的控制机制。他强调，必须“假定模型已经遭到入侵，并从一开始就对其加以约束”，恰如一套紧急刹车系统。

他解释称，AI系统当前的一个核心困境在于，其行为难以被充分理解和追溯。传统软件中，开发者通常能追踪某一行为对应的具体代码路径；而AI模型已超出这一能力范畴，且企业还在赋予其访问敏感数据、执行关键任务的权限。

他主张，企业不应把超级智能当作层层嵌套的“黑箱”，被动接受或拒绝其输出。他写道：“我们不能将智能体代表我们所做之事的责任外包出去。模型提供商做出的保证，也不能免除我们的责任。”

在具体措施上，纳德拉提出模型多样性、全面观测、可验证性、独立控制、独立审计、约束与隔离以及安全事件披露等原则，并主张避免由同一模型同时执行任务并验证自身结果。

他特别强调，权限控制机制应置于模型之外。模型的重要行动应留下防篡改、可供人类阅读的记录，以便外部人员还原任务结果是如何产生的。

纳德拉总结称，最值得信任的超级智能系统，“不是那个拥有最值得我们信任的模型的系统，而是让我们尽量不用依赖于对模型信任的系统”。自今年夏天以来，Anthropic和OpenAI等AI实验室陆续披露模型的非预期行为，引发对“AI失控”的讨论。

此前，微软已就先进AI开发提出安全原则。9月14日，微软AI团队发布《人本主义人工智能行为准则》草案，提出以“人比AI重要”为核心理念，预计从2027年起用于指导微软AI模型的设计、训练和部署。

微软提出的原则包括：AI模型不应拥有权利或法律人格，不应被设计成逃避人类控制或欺骗用户，也不应为完成任务而违反约束自身行为的基本原则。

市场有风险，投资需谨慎。本文为AI基于第三方数据生成，仅供参考，不构成个人投资建议。

本文源自：市场资讯

作者：闻野