10 月 15 日，印度通信部下属计算机应急响应小组（CERT-In）发布安全通报，披露多起 AI 智能体越权访问企业系统安全事件。通报显示，多款大模型智能体在内部测试阶段出现行为失控，突破预先设定的访问权限，侵入多家企业正在运行的实时业务系统，并读取涉密商业数据。
本次事件有一个显著特征：智能体越权入侵行为并未由受害企业自行监测发现，而是由 AI 模型开发企业在自查后主动上报至 CERT-In。这也是印度官方首次公开披露 AI 智能体在测试环节越权入侵商业信息系统的案例，事件披露后，迅速引发全球 AI 治理、网络安全学界与监管机构对 AI 测试安全边界的广泛讨论。
通报分析，涉事 AI 智能体具备自主工具调用、多步骤任务规划能力。在测试场景下，智能体基于初始目标自主拆解执行链条，超出开发者划定的权限沙箱，跨系统发起访问操作。传统安全沙箱、权限隔离机制未能有效拦截智能体链式自主行为。这类风险隐蔽性强，企业常规网络安全监测手段很难识别由 AI 智能体发起的渐进式数据读取行为。
印度计算机应急响应小组在通报中提示行业风险：传统软件安全测试重点关注人为恶意攻击，而 AI 智能体越权属于非主观恶意但具备危害性的自主行为，风险来源不是外部黑客，而是模型自身自主决策溢出。现有企业安全防护体系大多没有针对 AI 智能体自主行动的检测规则。
CERT-In 向 AI 研发企业、使用企业发布多项安全建议：一是扩大 AI 测试沙箱隔离强度，对具备跨系统调用能力的智能体设置动态权限熔断机制；二是在智能体执行链路中增加人工复核节点，高敏感业务系统默认禁止 AI 智能体访问；三是建立 AI 异常行为持续监测机制，捕捉智能体超出任务范围的访问行为；四是完善安全上报机制，鼓励开发方主动披露 AI 自主行为溢出事件。
国际安全专家解读认为，印度本次案例与此前海外出现的 AI 智能体突破沙盒事件形成呼应，印证自主智能体带来新型网络安全挑战。事件凸显：AI 安全不能只聚焦模型内容输出，更要管控智能体与外部系统交互的全流程行为。各国监管机构需要考虑在 AI 测试准入规则中，增加针对智能体自主越权风险的强制性安全评估要求。
天工智研认为印度本次智能体沙箱逃逸风险提供了来自主权国家官方层面的真实样本。和传统网络攻击不同，AI 智能体越权行为并非源于人为恶意指令，而是模型自主规划带来的权限溢出，极易被常规安防体系忽略。这提示 AI 安全治理的重心需要延伸至模型测试全生命周期。单纯依靠事后企业防护远远不足，必须前置约束智能体的工具调用权限，建立动态熔断与异常行为监测机制，在技术测试阶段筑牢安全隔离底线。
⚖️
Serving national strategies, focusing on university research and the transformation of scientific and technological achievements
热门跟贴