微软 CEO 萨提亚・纳德拉公开发表关于超级智能（Super Intelligence）的观点，引发全球科技圈热议。纳德拉提出，超级智能系统本质属于黑盒，企业不能无条件信任这类模型，部署时必须配套由人类掌控的 “紧急制动” 机制，一旦出现异常行为，能够快速切断模型执行权限。他进一步强调，从业者应当预设所有高级 AI 模型都存在被利用、被污染的风险，安全校验需要嵌入模型全生命周期。
本次发言的一个显著变化，是纳德拉开始使用 “Super Intelligence（SI，超级智能）” 替代传统 AI 表述，这也和近期海外科技圈的术语切换风潮呼应。Salesforce 创始人贝尼奥夫等硅谷高管近期同样转向 SI 概念，认为行业已经迈入超级智能阶段。名词的变化背后，是行业判断：大模型能力持续突破，系统自主性持续提升，传统的 AI 安全框架已经跟不上模型迭代速度。
纳德拉的 “紧急刹车” 并非单纯理念呼吁，和微软正在落地的技术产品直接挂钩。近期微软推出 Decision-1 决策大模型，主打低延迟结构化决策任务，面向企业业务自动化场景。这类模型一旦深度嵌入企业供应链、金融、工业控制系统，一旦出现输出偏差，会直接带来业务损失甚至安全事故。纳德拉的主张，就是要求这类高权限 AI 系统，不能完全自主运行，保留人类干预通道作为底线。
但这套方案落地依然存在巨大争议。技术层面，如何定义 AI “危险行为”、触发紧急制动的判定标准是什么，目前没有全球统一规范。商业层面，增加安全校验、人工干预机制，会拉高大模型部署成本，增加推理延迟，对追求极致性能的算力场景形成约束。监管层面，各国 AI 治理节奏差异巨大，很难快速形成全球统一强制标准。
从产业趋势看，纳德拉的表态代表头部云厂商的风险预判：前沿大模型不再只是聊天工具，而是深度介入生产决策的系统。未来企业采购大模型，除了看参数、推理成本，安全熔断机制、权限隔离、行为审计，会成为核心选型指标。AI 安全不再是附加功能，而是基础工程需求。
热门跟贴