【一份在成方金科某安全评审会上,被AI在模型上线前自动执行的“安全基线检查与红队测试记录”】
(背景:2026年11月,北京。成方金科安全评审会。一个AI模型申请上线,安全基线检查自动执行:训练数据是否包含敏感信息、模型输出是否可能泄露隐私、推理服务是否有越权访问风险。红队测试同步进行:模拟对抗性输入,测试模型的鲁棒性。全部通过后,模型才进入部署流程。成方金科是央行系科技公司,2026金融街论坛上联合15家机构发起智能体安全联合倡议。央行系做AI和商业银行做AI,最大的不同不在技术能力,在优先级排序:商业银行先想“能做什么”,央行系先想“不能做什么”。)
一、商业银行AI的“创新优先”:先上线,再补安全
商业银行的AI竞赛,节奏很快。
场景要抢上线、功能要抢首发、Token要抢规模。安全往往是上线后的补课:出了漏洞再补、监管检查再改。创新优先的逻辑是“先跑起来,再系安全带”。这个逻辑在商业上合理,在金融基础设施上危险。
成方服务的是央行和金融基础设施,一次安全事故的代价不是“体验变差”,是“系统性风险”。
二、成方的解法:安全不是关卡,是前置条件
第一,模型上线的“安全基线前置”。成方的安全基线检查在模型部署之前执行,不是上线之后审计。基线检查的项包括:训练数据来源合规、模型输出隐私保护、推理服务权限控制。不通过基线检查的模型,不能进入部署流程。安全是入场券,不是补考。
第二,红队测试的“对抗性验证”。基线检查验证的是“已知风险有没有被覆盖”,红队测试验证的是“未知风险能不能被扛住”。红队模拟对抗性输入:诱导模型输出敏感信息、构造边界条件让模型出错、尝试越权调用。红队测试的价值在于发现基线检查覆盖不到的盲区。
第三,智能体安全倡议的“行业基线”。单个机构的安全基线,只能保护自己。成方联合15家机构发起倡议,目标是建立行业通行的智能体安全基线。央行系科技公司的角色,不只是自己做安全,是为行业提供安全公共品。
三、行业终局:金融AI安全竞争的竞争,是“基线覆盖率”的竞争
当同行还在比“AI上线速度”时,成方在比有多少AI能力在上线之前经过了安全基线和红队测试。在金融AI安全的深水区,上线速度是面子,基线覆盖率才是里子。央行系的安全优先路线,短期看是“慢”,长期看是“稳”。谁能让安全基线跑在AI能力扩张的前面,谁就能在金融这个零容忍的领域里,把AI从“能用”做到“敢用”。
热门跟贴