高歌/文

在金融业讨论AI治理,多数人从规则、标准、监管工具谈起。中国工商银行行长刘珺选择先退回一步:在讨论怎么管之前,得先说清AI到底是什么。

“人工智能究竟是主体,还是客体?”在他看来,这是治理的起点——身份定位决定责任归属,责任归属决定治理机制能否落地。如果前两个问题解决不了,“促进发展”也就无从谈起。

在2026外滩年会“科技、地缘与全球经济”的一场关于“ 金融领域AI治理:关键议题与可行路径“圆桌讨论中,刘珺建议把AI视为“准人类法律主体”,纳入与市场参与者统一的治理机制。

“如果把AI视为一种‘类似人类的准法律主体’,把它纳入与人类主体、现有市场参与者相同的治理框架,就有可能建立一套统一的治理机制。”刘珺表示。

打开网易新闻 查看精彩图片

一、金融领域的AI治理需辨析身份与责任

刘珺以一个艺术史的比喻开场:如果不采用印象派式的观察方式,当下人工智能的发展更像立体主义,甚至带有后现代主义特征——充满不确定性,还有许多未知因素影响着它的演进轨迹。

这也解释了银行为何审慎。他形容商业银行刚刚走完以计算机系统建设为核心的阶段,数字化转型尚未完成,就已踏上通往AI的新旅程,进入大片未知领域。“人们经常谈论各种未知的黑天鹅因素,而人工智能未来的发展本身就可能伴随着大量黑天鹅事件。”

更现实的约束是:银行直接服务公众,参与产业发展,也参与市场中的各种经济活动,因此只能采用经过验证的成熟技术,不能依赖尚未成熟的前沿技术。

面对当前的两种立场:强人工智能认为AI迟早会获得与人类类似的意识;弱人工智能则把AI看作一种技术工具。刘珺提醒,真正的风险不在定义之争,而在能力演进。AI迟早会发展出某些能力,绕过人类进行讨论、谈判,甚至相互串通,破坏现有系统、绕过既定规则。“这将是非常危险的。”

所以第一个必须回答的问题是:AI应当成为与人类并列的法律主体,还是仅仅作为一种技术工具?这一问题直接指向第二个问题——究竟由谁承担责任。

过去的分工很简单:银行使用某一套计算机系统开展业务,相关责任就在银行肩上,不能对公众说“这套系统不是我开发的,所以我不承担责任”。但AI的链条被拉长了——算法开发者、程序员、部署方、使用方以及最终用户各在一环;算法本身又存在黑箱问题,责任的认定与核实在当前阶段十分困难。

“如果无法解决前面这两个问题,那么促进发展也就无从谈起。”

二、把AI当“准人类法律主体”,纳入统一治理机制

刘珺认为,当前的治理仍然面对四组结构性错配:第一是信息披露,监管机构要求商业银行和上市主体充分披露信息、增强公众信任,但AI算法及其数据参数处于黑箱之中,很难识别哪些数据会产生哪些结果——仅沿用现有机构主体的披露方式,显然不够;第二是数据存储,政府要求数据存放在本国主权管辖范围内,但数据是跨境流动的,数据本身没有国界,算法同样没有国界;第三是主权,AI应当受到一定的主权管辖,而现阶段没有哪个国家愿意将AI的控制权交给另一个国家——“主权人工智能”因此受到广泛关注;第四是信用,商业银行业建立在信用之上,已有成熟的信用评分体系,可以为机构、市场参与者乃至个人打分;但如何给AI算法评分?AI既有闭源模型,也有开放权重模型和开源模型,可信程度该如何评估?

尽管问题不少,刘珺的落脚点仍是发展:“所有技术发展最终都应当服务于人类社会的进步。必须确保人工智能能够帮助人类共同迈向更加美好的未来,否则我们甚至没有必要讨论人工智能发展的利弊得失。”

他的建议是把AI视为“类似人类的准法律主体”,让人工智能金融治理与人类主体、现有市场参与者的治理体系并轨,形成统一机制:借助已有的数据标注技术和追踪能力,把AI运行产生的数据轨迹与市场参与者的数据整合起来,实现统一管理和全流程贯通。“利用现有机制、把AI纳入考虑,系统性风险的验证与识别问题就可以解决。”

被问及未来一到两年政策制定者在金融AI治理上最该做的一件事,刘珺认为是协作:“鉴于AI的特性,不存在任何一个国家能够单独解决问题,全球合作与协作非常重要。”

他建议向其他学科借一个标准——法律领域的“排除合理怀疑”。AI必须能够证明,它可以在排除合理怀疑的前提下作出决策;否则就意味着某些AI工具无法实现可解释性和互操作性,“我们就必须把这些工具放到一边”。

“这就是人类可以应用于现实世界的一种‘切换开关’。”

本文来自和讯财经,更多精彩资讯请下载“和讯财经”APP