腾讯新闻《一线》
作者 | 凌雪
编辑 | 刘鹏
“智能金融的本质还是金融,它虽然改变甚至颠覆了传统金融的模式,增加了新业态,但它并没有消除金融的风险。”
12月22日,中国证监会原主席肖钢在中国财富管理50人论坛2024年会上分析称,人工智能是一把双刃剑,一方面引领了新一轮科技革命和产业革命,但同时产生了各种风险和挑战。
肖钢表示,人工智能是由数据、算力、算法、多元应用场景构成的。他认为“算法并非是中性的”,它必须预设一个价值立场,另外,算法依赖的数据往往具有局限性,不可能是完美数据。算法应用也具备不确定性和不透明性。
演讲中,他认为目前算法模型在金融领域的问题已经开始显现。
有几个实例可以说明:
一家通过算法做智能投资的美国公司,它的算法预测模型在2021年出现失误,导致亏损5亿美元。
在我国也出现了部分金融机构靠算法来做信贷模型的风控,但同时也出现了一些黑灰产组织,也用大模型来模拟这些模型参数,灌输数据后进行信贷欺诈。
“现在此类情况较多发生在中小银行,因为它们相对容易被黑灰产组织攻破,而大银行的风控能力强一些。”因此,肖钢认为,金融AI算法模型需要治理框架。
同时,肖钢提出算法治理应有三个目标:要建立可信任,要有信任、可依赖、负责任的人工智能系统;要讲究效能;要讲究安全。
具体到治理的相关建议,肖钢认为,首先,应该完善相关法律法规,建立法律框架;第二,要做好算法模型治理一定要有专门的组织,大型金融机构应建立算法模型管理委员会;第三,金融机构要建立对模型效果的自主评估、审查,还要建立问责机制和救济机制。最后,还应建立算法模型的治理生态,让金融机构、科技公司、消费者、监管者、自律组织等都要参加治理活动。
事实上,目前也有部分金融机构已经建立了算法模型的治理体系。
肖钢在演讲中介绍了一家商业银行的做法值得借鉴。该银行设有模型管理委员会,制定算法模型开发应用的战略和政策规则,这是他们机构内部的。同时,该行建立了模型管理的规范,比如说对零售模型有需求、有设计、有开发、有验证。该行还设有模型风险管理平台,实现了实时展现模型参数的前景,跟进项目的进展,自动监控预警。
此外,肖钢还指出,算法模型还需要分级分类治理,其中,风控模型应该放到最优先的等级,在金融机构体系内价值较高、影响较大的模型要放到高等级,新模型也要放到高等级。
“我觉得下一步应该进一步贯彻好人民银行AI算法应用的规范,从而更好地促进智能金融健康发展。”肖钢表示。
热门跟贴