文/中国农业发展银行总行风险管理部处长毕超
人工智能正在重塑支付服务的入口、流程和风险结构。过去支付风险主要围绕账户盗用、商户欺诈、资金清算和信息泄露展开；进入大模型和智能体时代后，AI 可能参与商品发现、交易撮合、身份核验、风控判断、支付授权乃至售后争议处理，支付风险也随之从“资金是否安全”扩展到“意图是否被正确理解、授权是否清晰、推荐是否公正、模型是否可靠、通道是否中立”。我国人工智能治理、金融机构 AI 应用、算法推荐、生成式人工智能、非银行支付机构监管和个人信息保护等制度，已为 AI 支付治理提供基础。面向智能体支付发展，本文提出构建以明确授权、可解释推荐、可信身份、数据最小化、模型审计、通道中立和责任可追溯为核心的治理框架。
AI正在把支付从“交易环节”推向“智能决策环节”
过去谈支付安全，重点通常是“钱有没有被盗”“密码有没有泄露”“交易有没有被篡改”“商户有没有违规”。这些问题仍然重要，但人工智能进入支付场景后，风险结构正在发生变化。
在传统移动支付中，用户通常先搜索商品或服务，再比较价格、评价和商户，最后点击支付按钮。支付机构主要负责账户识别、身份核验、交易风控、清算结算和争议处理。即便平台排序存在商业化因素，消费者通常仍能看到搜索结果、广告标识、商户页面和价格信息。
但在 AI 支付或智能体支付场景中，用户可能只说一句：“帮我买一箱适合老人喝的牛奶”“帮我订一间明晚附近性价比高的酒店”“帮我缴纳本月家庭账单”。AI 不只是回答问题，而是可能理解需求、筛选商品、调用平台接口、生成订单、发起支付，甚至在用户预授权范围内完成交易。此时，支付不再只是最后一公里的资金划转，而是被嵌入 AI 的任务规划和交易决策之中。
这带来更深层的问题：如果 AI 误解用户意图，谁负责？如果 AI 推荐了平台关联商品，却没有提示利益关系，是否影响消费者知情权和选择权？如果 AI 换脸、拟声、伪造身份诱导用户转账，支付机构如何识别？如果模型被提示词攻击或恶意页面诱导，产生错误支付指令，风险由谁承担？如果少数大型 AI 入口掌握海量交易导流能力，是否会形成新的数字通道控制力？
中央层面已经明确要求推动人工智能健康有序发展，突出应用导向，同时加强人工智能安全治理。金融监管部门也已针对银行保险机构人工智能开发应用提出全生命周期管理要求。与此同时，算法推荐、生成式人工智能、非银行支付机构监管、个人信息保护、数据安全等规则，共同构成 AI 支付治理的制度背景。对金融机构和支付平台而言，人工智能支付不是简单的技术升级，而是支付秩序、消费者保护和金融安全治理的新课题。
AI支付不只是“AI帮你付款
从国内公开报道和监管关注看，当前所谓 AI 支付问题并不都表现为成熟的“智能体自动支付”。更常见的是若干相邻风险正在向支付环节汇聚，比如刷脸支付和人脸识别风险、AI 换脸和拟声诈骗、算法推荐和平台导流偏置、自动扣费与授权不清、数据过度采集、模型误判与责任不明等。这些问题共同构成 AI 支付治理的现实基础。
（一）人脸识别与刷脸支付风险
刷脸支付曾被视为提升支付便利性的重要创新。它减少了用户输入密码、扫描二维码或携带实体卡的步骤，在商超、餐饮、自助终端等场景中具有一定应用价值。但人脸识别属于高度敏感的生物识别技术，一旦被盗用、复制或滥用，风险不同于普通密码。密码泄露可以修改，人脸信息一旦泄露，几乎无法“重新换一张脸”。
公开资料显示，围绕刷脸支付和人脸识别支付的风险主要包括三类。第一，用户对人脸信息采集目的、保存期限、使用范围了解不足。第二，部分场景可能存在默认刷脸、替代方式不足或授权不充分问题。第三，AI 换脸、照片视频伪造、深度合成等技术提高了身份冒用的可能性，对活体检测、行为风控和异常交易识别提出更高要求。
这说明，AI 支付安全不能只看“识别准确率”。即使识别技术本身较先进，只要授权场景不清、活体检测不足、异常行为识别不到位、交易确认机制薄弱，仍可能产生风险。人脸识别不是万能钥匙，更不能成为替代用户真实意愿的单一通行证。
（二）AI换脸、拟声和深度伪造诈骗
近年来，AI 换脸、拟声诈骗成为社会关注的突出问题。不法分子可以通过公开视频、社交媒体素材、语音片段等生成较为逼真的视频或语音，冒充亲友、领导、客服或金融机构人员，诱导受害人转账、借款或提供验证码。多地公安机关和主流媒体已发布相关风险提示。
这类风险与支付高度相关。支付系统过去主要识别账户、设备、密码、验证码和交易行为；但深度伪造攻击利用的是人的信任机制。受害人看到“熟人”的脸、听到“熟人”的声音，就可能放松警惕，自主发起转账。从形式上看，这笔支付可能是本人操作；从实质上看，却可能是被 AI 伪造信息诱导。
因此，AI 支付治理不能只强调技术认证，也要重视交易语境和异常行为。例如，涉及大额转账、陌生账户、临时借款、紧急付款、异地登录等场景时，支付平台应加强风险提示和二次核验。对“视频通话确认身份”等传统经验，也要进行公众教育：在 AI 换脸时代，视频和声音不再天然等于真实身份。
（三）算法推荐偏置与平台自我优待
AI 支付还有一类更隐蔽的风险，即 AI 入口的排序和推荐可能影响消费者选择。假设用户在某大型平台的 AI 应用中说：“帮我买一箱性价比高的牛奶。”如果 AI 优先推荐平台自营商品、关联公司商品、广告出价更高商品或佣金更高商品，却以“最适合你”的客观语气呈现，消费者可能误以为这是中立建议。
这不同于普通广告。普通广告通常有页面标识，消费者也知道自己在浏览商业内容。但 AI 以助手身份出现，语气更像个人顾问。如果它把商业排序包装成客观推荐，就可能削弱消费者知情权和比较选择权。更重要的是，当 AI 具备下单和支付能力时，推荐偏置会直接转化为交易转化。谁被 AI 看见，谁就获得交易机会；谁被 AI 忽略，可能连展示机会都没有。
这涉及 AI 支付入口的“通道中立”问题。AI 入口不完全等同于电信网络或支付清算网络等公共性基础设施，但当它连接用户意图、商品服务和支付账户，并对交易导流产生决定性影响时，就具有某种功能性通道属性。监管不必把所有 AI 应用都纳入公共事业监管，但对于掌握大规模用户、控制支付入口、兼营自营商品和广告业务的平台级 AI 入口，应提出更高的透明度、公平性和利益冲突披露要求。
（四）自动扣费、委托支付和授权不清
在许多支付纠纷中，用户并不是完全没有授权，而是不清楚授权的范围、期限、金额和取消方式。比如会员自动续费、默认勾选、免密支付、小额免密、代扣协议、聚合支付跳转等场景，常常涉及“用户曾经同意过，但并未充分理解后续影响”的问题。
AI 支付会放大这一问题。智能体天然适合连续执行任务，例如自动比价、自动订票、自动续费、自动缴费、自动采购。若授权设计不清，用户可能在一次对话中授予过宽权限，使 AI 在后续场景中持续触发支付。传统支付中的“单笔确认”逐渐变成“规则化委托”，但规则如果不可见、不可控、不可撤销，就会损害用户权益。
因此，AI 支付授权必须从“勾选同意”升级为“可理解、可分级、可撤回、可审计”的授权体系。用户不仅要知道 AI 可以做什么，也要知道 AI 不能做什么、何时必须再次确认、如何暂停、如何查询历史决策依据。
（五）数据安全与个人信息保护风险
AI 支付需要大量上下文。为了替用户选择商品、判断价格、完成支付、生成报销凭证，AI 可能接触身份信息、银行卡信息、消费偏好、位置轨迹、联系人、发票抬头、单位信息、健康信息甚至家庭关系。这些信息一旦被集中收集、跨场景使用或用于模型训练，风险远高于普通支付数据。
尤其是在金融、医疗、教育、养老等敏感场景，AI 支付服务很可能通过“便利性”获得大量个人信息。如果平台没有坚持最小必要原则，没有明确区分交易所需数据、推荐所需数据和模型训练数据，就可能形成隐私过度采集、画像滥用和数据安全隐患。
（六）模型风险、外部依赖和系统性风险
AI 支付依赖模型、算力、云服务、数据接口和第三方插件。若大量金融机构和支付平台使用少数基础模型、少数云服务或少数智能体平台，可能产生集中度和外部依赖风险。一旦模型出现系统性错误、服务中断、被攻击或规则更新异常，影响可能迅速扩散。
此外，AI 模型具有概率性，可能出现幻觉、误判、上下文遗忘、工具调用错误和提示词攻击。对内容生成而言，这些错误可能只是回答不准确；对支付而言，则可能直接造成资金损失。因此，支付场景不能把模型输出直接等同于支付指令，更不能让模型在缺乏边界约束的情况下直接触发资金划转。
概括来看，AI 支付相关风险大体可以归为三类：一是以刷脸支付、人脸识别为代表的身份核验风险；二是以 AI 换脸、拟声诈骗为代表的深度伪造风险；三是以算法推荐、自动扣费、默认授权为代表的消费者权益风险。虽然这些案例不一定都发生在完整的“智能体自动支付”场景中，但它们共同提示：当 AI 与支付结合，风险往往不是单点技术故障，而是技术、场景、授权、平台规则和用户认知共同作用的结果。
AI支付风险治理已经具备政策制度基础
近年来，我国人工智能治理和金融科技监管不断完善，为 AI 支付风险治理提供了较为清晰的制度方向和政策框架。
一是中央层面对人工智能治理提出更高要求。中央政治局围绕人工智能发展和监管开展集体学习，强调推动人工智能健康有序发展，坚持自立自强、突出应用导向，同时加强人工智能发展和安全治理。这为金融领域 AI 应用划定了基本方向：既要鼓励创新应用，也要守住安全底线、伦理底线和风险底线。
二是金融监管部门已对银行保险机构人工智能应用提出安全开发要求。相关指导意见强调统筹发展和安全，加强人工智能全生命周期管理，覆盖治理架构、数据安全、模型管理、系统安全、外包管理、消费者权益保护、风险监测和应急处置等方面。对 AI 支付而言，这意味着金融机构不能只把 AI 看作提升效率的工具，而要把模型、数据、场景、接口、外包、审计和责任纳入统一治理框架。
三是算法推荐管理规则为 AI 入口治理提供制度支撑。《互联网信息服务算法推荐管理规定》强调算法推荐服务应保障用户知情权、选择权，不得利用算法实施不合理差别待遇等行为。虽然该规定并非专门针对支付，但对 AI 支付入口的推荐排序、广告标识、用户选择和算法透明具有重要参照意义。
四是生成式人工智能服务管理规则为大模型应用提供边界。《生成式人工智能服务管理暂行办法》对生成式 AI 的数据来源、内容安全、个人信息保护、服务规范和安全评估等提出要求。AI 支付若依赖大模型提供意图理解、商品推荐、交易解释和客服处理，就应当遵守这些基础要求，避免模型输出误导用户或侵害个人信息权益。
五是非银行支付机构监管制度强化支付业务底线。《非银行支付机构监督管理条例》明确非银行支付机构应依法经营、保护用户合法权益、保障支付业务安全。AI 支付无论前端交互多么智能，底层仍属于支付业务或支付相关服务，必须遵守实名制、备付金、反洗钱、消费者保护、交易安全和风险处置等基本要求。
六是个人信息保护、数据安全和网络安全规则构成底层约束。AI 支付涉及身份信息、生物识别信息、交易数据、消费画像和行为偏好，必须坚持合法、正当、必要和诚信原则，落实最小必要、目的限定、单独同意、敏感个人信息保护和数据安全管理等要求。
AI支付风险识别框架和治理路径
识别风险是风险治理的前提。面向智能体支付，针对前述的典型风险领域，建议从六个维度加快建立风险识别框架，形成覆盖AI 支付全链条的风险“雷达”。
第一，识别主体风险。要明确交易链条中的人、AI 智能体、商户、平台、银行、支付机构、模型服务商和第三方插件分别是谁。特别是 AI 智能体不能是匿名黑箱，应有可识别身份、权限范围和行为日志。
第二，识别意图风险。AI 是否准确理解用户目标？是否把模糊需求转化为过度明确的支付指令？是否遗漏用户限制条件？是否把平台商业目标混入用户真实需求？意图风险是 AI 支付区别于传统支付的重要风险。
第三，识别授权风险。用户授权是否明确、分级、限额、限时、可撤回？是否存在默认勾选、捆绑授权、长期授权、模糊授权？是否在高风险交易中触发二次确认？授权风险决定 AI 能否合法、合理地代表用户行动。
第四，识别模型风险。模型是否经过支付场景评估？是否可能产生幻觉、误判、歧视性推荐或错误工具调用？是否容易受到提示词注入、恶意网页、伪造接口和对抗样本攻击？模型风险必须通过测试、监控、审计和人工兜底机制控制。
第五，识别数据风险。AI 支付是否过度采集个人信息？是否将交易数据用于无关画像或模型训练？是否对敏感个人信息采取单独同意、加密存储、访问控制和最小化处理？数据风险既关系用户隐私，也关系金融安全。
第六，识别平台与市场风险。AI 入口是否自我优待？是否优先导流关联商户？是否压低竞争者曝光？是否把广告结果伪装成客观推荐？是否形成新的平台锁定和市场壁垒？这一维度关系消费者选择权和公平竞争。
在识别前述六个维度风险的基础上，应进一步构建“可控、可信、可审计”的 AI 支付体系，为相关风险前瞻性应对提供清晰的治理路径。
第一，建立分级授权机制。AI 支付不应只有“允许/拒绝”两种状态，而应分为信息辅助、订单辅助、受限代付、高级委托等层级。信息辅助阶段，AI 只能提供建议；订单辅助阶段，AI 可生成订单但必须用户确认；受限代付阶段，AI 只能在白名单、限额、限时和低风险场景内自动支付；高级委托阶段，应配套更强风控、实时监控、审计日志和异常熔断。
第二，坚持关键支付节点强确认。对大额交易、跨境交易、陌生收款方、非常用商户、金融产品购买、医疗教育等敏感场景，应设置强确认机制。确认内容应包括交易对象、金额、费用、授权依据、推荐理由、风险提示和撤销方式，而不是简单弹出“是否同意”。
第三，建设智能体身份与行为日志。未来 AI 智能体参与支付，应像机构、商户和账户一样具备可识别身份。系统应记录智能体发起请求的时间、授权来源、调用工具、推荐依据、用户确认、风控结果和最终执行情况。日志应满足争议处理、监管检查和责任追溯需要。
第四，强化模型全生命周期治理。金融机构和支付平台应对 AI 支付模型开展上线前评估、场景适配测试、红队测试、偏差评估、持续监控和定期复核。对外部模型和第三方插件，应建立准入、评估、合同约束、监测和退出机制，避免把核心支付决策完全外包给不可控系统。
第五，落实数据最小化和敏感信息保护。AI 支付应区分“完成交易所需的数据”“提升推荐效果的数据”和“用于模型训练的数据”。不同目的应分别授权，不得以使用支付服务为由强制用户同意无关数据处理。对人脸、声纹、账户、位置、健康、家庭关系等敏感信息，应采取更高保护标准。
第六，治理 AI 入口的通道中立问题。平台级 AI 支付入口可以有商业模式，但不能让商业利益隐身。对于自营商品、关联商户、广告商品、佣金更高商品和商业合作结果，应进行清晰标识。AI 推荐支付对象时，应尽量提供多个可比较选项，并说明价格、质量、配送、售后、商户信用和商业合作因素。对具有较强市场影响力的平台，应建立算法审计和非歧视导流规则，防止利用 AI 入口排挤竞争者。
第七，完善消费者保护和赔付机制。AI 支付纠纷中，普通用户往往难以举证模型如何决策、平台如何排序、接口如何调用。因此，应建立有利于消费者的查询、冻结、申诉、举证和赔付机制。对因平台模型缺陷、风险提示不足、授权设计不合理、深度伪造识别失败造成的损失，应明确平台和金融机构责任。
第八，推动监管沙盒和行业标准。AI 支付仍处于发展早期，宜先在低风险、小额、可撤销、可监控场景中试点，逐步形成行业标准。标准重点应包括智能体身份标识、授权表达、日志格式、风险提示、算法审计、数据安全、第三方接口、争议处理和应急处置。
对监管、金融机构和支付平台的建议
对监管部门而言，应在现有支付监管、算法治理、数据安全和消费者保护规则基础上，进一步关注智能体支付的特殊性。监管重点可从支付机构合规，扩展到 AI 入口治理、智能体身份、模型外包、算法推荐、深度伪造防范和跨机构责任划分。
对银行而言，AI 支付不是单一支付产品，而是账户、身份、风控、合规和客户服务的综合升级。银行应把 AI 支付纳入数字金融和消费者保护框架，重点建设可信账户体系、智能风控体系和可解释授权体系。对于企业客户，还可以探索 AI 采购支付、差旅报销、供应链结算等场景，但必须强化审批流、预算控制和审计留痕。
对支付机构而言，应避免把 AI 支付简单包装为“更快支付”或“无感支付”。真正的竞争力在于可信授权、交易安全、商户治理、争议处理和跨场景风控。支付机构应主动与模型服务商、电商平台、终端厂商建立风险联防机制，形成从意图识别到资金结算的全链条防控。
对大型平台而言，应高度重视 AI 入口的公平性。平台既做 AI 助手，又做电商、广告、支付和自营商品时，必须处理好“裁判员”和“运动员”的关系。自营、关联、广告和佣金因素应充分披露，不能以算法黑箱掩盖商业导流。
总之，AI 支付治理的核心是构建信任秩序。人工智能支付不是简单地让 AI 替人付款，而是让 AI 介入“理解需求—形成选择—组织交易—触发支付—处理争议”的全过程。它带来的效率提升值得期待，但风险也不应低估。未来，支付安全的含义将从“账户和资金安全”扩展为“意图真实、授权明确、推荐公正、模型可靠、数据合规、通道中立、责任可追”。谁掌握 AI 支付入口，谁就可能掌握消费者意图、商户流量和支付转化；因此，AI 支付治理必须同时关注金融安全、消费者权益和公平竞争。
在中央加强人工智能治理和金融监管部门强化银行保险业人工智能安全开发应用的背景下，金融机构和支付平台应尽快从“功能上线”思维转向“治理先行”思维。只有把 AI 的自主性纳入明确授权、可解释推荐、可信身份、可审计日志、非歧视导流和消费者保护框架之中，人工智能支付才能真正成为数字金融高质量发展的助力，而不是新的风险源。
来源丨经作者授权转发
编辑 | 丁开艳
审核丨秦婷
责编 | 兰银帆
Review of Past Articles -
01
02
热门跟贴