智能体部署门槛极低，正在超出各方的管控范围，这一问题日益严峻，甚至可能抵消智能体带来的全部收益。
这是Rubrik ZeroLabs最新发布的一项调查所得出的结论。调查显示，仅有不到四分之一（23%）的IT管理者表示对组织内部的智能体拥有"完全"的控制权。更令人担忧的是，这些智能体并未如预期那样提升生产效率——81%的受访者反映，他们所管理的智能体在人工审计和监控上耗费的时间，远超其通过优化工作流程所节省的时间。此外，调查还指出，相关安全状况同样不容乐观。
生成式AI智能体的创建十分便捷，报告作者指出，"用户常常关闭VPN或绕过安全控制来快速搭建智能体充当个人助手"，由此催生了大量未经授权的AI应用——既有内部自建的，也有供应商推送的。
这种智能体无序扩张的现象已在业界引发广泛关注。微软高级产品经理Kriti Faujdar表示："我们已经看到与早期云计算普及时期相似的规律——各团队使用不同框架和供应商独立部署智能体，进而导致系统碎片化、治理机制不统一，以及隐性安全漏洞的出现。"
ZeroLabs的调查揭示了管理者的主观感知与实际运营状况之间存在明显落差。几乎所有IT管理者（86%）预计，在未来一年内，智能体的扩散速度将超过安全防护机制的跟进速度；超过半数（52%）预计这一情况将在未来六个月内发生。此外，几乎所有受访者都表示缺乏必要的"撤销"能力，无法回滚智能体产生的非预期操作。
随着智能体在企业系统中持续扩散，业界观察人士越来越担忧这种蔓延态势正变得难以管控。安全AI联盟（Coalition for Secure AI）首席工程师Nik Kale表示："任何一个拥有API访问权限的团队，都能在一个下午搭建起一个智能体。在一家大型企业中，这意味着可能出现数百个权限交叉、身份模型不统一、且无人能够提供完整清单的智能体。"
智能体的可观测性向来是一大难题。ZeroLabs报告的作者指出，业界对智能体行为链的遥测能力需求日益迫切，同时也需要在关键节点设置安全执行机制。
ZeroLabs研究团队认为，评估智能体部署后是否持续有效，需要回答以下几个核心问题：智能体的行为是否符合预期？它访问了哪些资源和工具？是否触发了人工介入机制？出现问题时，能否回滚其操作？
然而，报告指出，上述问题目前普遍缺乏有效解答。由此导致许多管理员及其所在组织无法"定义智能体的可接受行为、审计智能体可访问的资源和工具、制定触发人工干预的策略，以及回滚智能体的操作"。
Faujdar表示，由于智能体具备自主行动能力，其潜在风险远高于传统软件。在当前环境下，企业面临速度与治理之间的权衡取舍。"各组织都希望快速推进，但若缺乏明确的防护机制，就可能构建出难以信任、难以审计、也难以规模化的系统。真正的赢家，是那些将智能体管理视为核心能力而非事后补救的组织。"
保持智能体持续有效也是一项棘手挑战——因为其底层基础模型往往会随时间推移而产生漂移。Liberty91创始人兼首席执行官Renze Jongman指出："你在第一季度认证的智能体，到第三季度在行为上可能已经大不相同，这并非平台的过错。你的治理模型必须预设到'地基会移动'这一现实。"
目前，"有太多智能体在任何治理边界之外运行，包括团队自行搭建的那些。"Kale表示，他建议将智能体技术栈中的编排层与模型层、治理层分开管理。"如果这三层都集中在同一家供应商的平台内，你就相当于在一份合同里把智能体的'大脑'、权限和问责链一并交了出去。"
Kale还补充道，对智能体的监督"应当涵盖安全团队、架构团队，以及负责最终业务成果的业务部门，而不仅仅是急于快速交付的开发团队。"
Q&A
Q1：智能体扩张为什么会成为企业的安全隐患？
A：因为创建智能体门槛极低，任何拥有API访问权限的团队都能快速部署，导致企业内出现大量未经授权的智能体，权限交叉、身份模型混乱，且无人能掌握完整清单。Rubrik ZeroLabs调查显示，86%的IT管理者预计智能体扩散速度将在一年内超过安全防护机制的跟进能力，几乎所有受访者都缺乏回滚智能体非预期操作的能力。
Q2：企业如何判断已部署的智能体是否仍在正常运作？
A：根据ZeroLabs研究团队的建议，评估智能体部署后是否持续有效，需要回答四个核心问题：智能体的行为是否符合预期？它访问了哪些资源和工具？是否触发了人工介入机制？出现问题时能否回滚操作？目前大多数企业对这些问题缺乏有效解答，导致治理存在明显空白。
Q3：企业应如何构建更有效的智能体治理机制？
A：专家建议将智能体技术栈中的编排层与模型层、治理层分离，避免将所有控制权集中于单一供应商平台。治理工作应涵盖安全、架构和业务部门，而非仅由开发团队主导。此外，由于底层模型会随时间漂移，治理框架本身也需要具备动态适应能力，将智能体管理视为持续性的核心业务能力。
热门跟贴