AI Agent正把安全边界从“对话”推进到“执行”。一次自然语言请求，可能触发多轮模型调用、RAG检索、工具调用与结果回填，Agent接入的数据源、工具与业务系统越多，风险面越广。
天融信在AI Agent安全防护方案中提出一个基本判断：
AI Agent安全的难点，不仅关注检测能力是否足够强，更要关注安全能力能否落到执行链的正确位置。Agent本体不可控、协议不开放、代码不可修改，检测能力再强，也可能找不到插入点。
六类风险横跨输入到执行，防护不能只有一个落点
从风险构成看，AI Agent面临敏感数据外泄、提示词注入与越狱、工具与MCP越权调用、内容安全与合规、算力与资源滥用、模型与Agent自身能力不足六类风险，横跨输入、推理、输出与执行全过程，既可能来自恶意攻击，也可能源于无意识误用。
这六类风险性质不同：提示词注入、越权调用、数据外泄需在运行时实时拦截；模型能力边界、对抗鲁棒性、内容安全与系统安全等问题，更适合在上线前和版本变更后通过大模型安全评估形成基线，再将评估结果转化为运行时策略。
安全介入位置，应当由场景决定。天融信根据Agent控制权的高低，给出差异化防护方案。
场景决定安全介入位置
天融信AI Agent安全防护方案
- 对企业完全掌控、可改代码的自研Agent，安全能力深度集成；
- 对本体不完全可控、仅开放扩展接口的开源或可扩展Agent，大模型安全网关是关键介入点，以证书互信解密、AI网关代理、SNI兜底三条路径覆盖全流量，实现业务零改造、用户无感；
- 对私有化部署的Agent平台，内网部署、数据不出域，则需从终端、平台接入、运行时到模型服务全链路布防。
不同Agent场景下的安全能力选型与大模型安全评估应用
无论哪类场景，大模型安全评估都作为前置与周期能力贯穿方案：模型选型时建立安全基线，Agent上线前开展内容安全、对抗安全与系统安全验证，模型、提示模板、知识库或工具链发生重大变更后触发回归复测；评估结果进一步联动大模型安全网关和AI安全管理平台，转化为准入门槛、风险分级与策略基线。
完整的产品矩阵，是方案落地的支撑
天融信大模型安全网关作为运行时控制中枢，提供提示词注入防护、价值观过滤、敏感数据防泄漏、多模态安全检测、代码安全检测、API资产防护、细粒度访问控制，覆盖监管、内容、用户、服务、站点五层风险，并以双Key凭据托管实现真实密钥不下发。
天融信大模型安全评估系统以模测模，从内容安全、对抗安全与系统安全三维穿透，覆盖5大类31子类内容风险、25子类攻击模拟与16种模型文件格式的序列化检测，不仅对标GB/T 45654—2025，还承担模型选型、Agent上线准入、版本变更回归、红队验证与运行时策略校准，将评估发现的高风险提示模式、内容边界和模型弱项转化为网关与平台的策略基线。
天融信终端数据防泄漏系统以清点、通道、内容、语义、替代管控五级检测，覆盖剪贴板、文件上传、截屏、打印、外设、网盘与IM等外发通道，阻断决策在本地50毫秒内完成。
在此之上，API审计系统负责API资产梳理与访问审计，容器安全检测系统覆盖镜像准入、逃逸拦截与微隔离；智算云在提供算力与运行底座的同时承载云安全能力，以16类安全组件池化供给，实现网络、主机、容器、数据等基础安全能力随算力统一编排、按需加载和弹性伸缩；AI安全管理平台统一完成资产纳管、策略下发、风险分析、审计运营与响应编排。
三大优势，构筑智算全链路安全底座
- 介入位置可落地，不改代码、不动业务，即可在最难管控的场景建立控制点；
- 能力覆盖完整，从大模型安全评估到运行时网关防护，从终端数据控制到审计追溯，再到容器与智算云安全底座，形成“上线评估—运行时控制—持续监测—策略优化”的闭环；
- 安全能力可弹性供给，智算云将算力与云安全统一承载，平台按业务规模进行能力编排与伸缩。当Agent从工具走向执行主体，安全建设的答案不在于堆叠检测点，而在于把评估、防护、监测和响应放到它们真正能够发挥作用的位置。
天融信AI Agent安全能力矩阵
AI Agent越深入核心业务，安全厂商的职责就越不能停留在“识别一条危险内容”。真正需要保障的，是从模型选择、知识接入、工具调用到业务执行的完整数字行动链：上线前要知道它是否值得信任，运行中要知道它正在做什么、能不能做、做到什么程度，发生异常后还要能够留证、阻断、复盘并持续优化。
面向下一阶段的AI Agent规模化应用，安全不应被理解为附加在业务之外的“刹车”，而应成为支撑智能体进入真实业务的基础设施。天融信通过“大模型安全评估+运行时安全网关+终端与审计控制+智算云安全底座+统一安全运营”，把安全能力嵌入Agent从准入到执行的全过程，最终目标不是让智能体少做事，而是让企业能够在边界清晰、风险可控、责任可追的前提下，把更多真实业务放心交给智能体。
热门跟贴