合理设定AI的能力边界

（来源：中国银行保险报网）

转自：中国银行保险报网

□本报记者 苏洁

10月30日，“2025金融科技大会平行论坛——AI+金融专题论坛”在中关村金融科技特色产业园举办。与会代表从技术角度阐述了AI金融的发展机遇与挑战。

北京大学计算机学院教授、元宇宙技术研究所所长陈钟从学界角度对AI大模型在金融行业发展提供了冷静的观察。他在肯定大模型在算力优化方面仍有巨大潜力的同时，提醒业界需要关注后续发展动能，特别是要夯实数据采集、利用和加工的能力基础。他警示要针对外部科技巨变可能对金融业产生的颠覆性冲击作出预案，这种冲击的力度或许不亚于互联网带来的变革。

关于风险与挑战以及未来应对，陈钟直指问题的核心——大模型的“幻觉”问题源于其计算本质，而面客场景的法律风险尤为突出，需要综合运用大模型和软件工程方法，在算力、算法、数据三个层面建立与人类价值观对齐的治理机制。

“AI的落地必须与统计学和数据科学深度融合，统计与数据科学是AI落地的钥匙。”美国国家科学院院士、美国哈佛大学统计系终身教授、清华大学统计与数据科学系教授刘军认为，AI单纯依赖大数据而缺乏严谨的统计思考可能导致模型偏差与决策失误。

在新加坡国立大学和南洋理工大学客座教授白士泮看来，“智能代理”支付是掌握未来机器经济的咽喉，必须构建起机器可授权、可追责、能结算的全新支付体系。

首都经济贸易大学党委副书记、校长吴卫星表示，人工智能在金融领域展现出广阔的应用前景。与此同时，也需要审慎关注其背后潜在的风险与挑战。未来，亟待业界持续投入关注与研究，以护航该领域的健康发展，推动金融行业迈向更加可持续的未来。

在实践中，诸多机构表达了对于AI冲击下的“变局”。

青岛银行首席信息官杨斌将AI比作从“蒸汽机”升级为“核动力”的银行新引擎，强调AI已从单纯的效率工具转变为重构银行管理经营全过程的核心驱动力。他以青岛银行推动“百千行动计划”的实践举例，AI正全面渗透到产品创设、经营管理等各个环节，重新定义银行的核心能力。

对于风险与挑战以及未来应对，杨斌系统地阐述了银行面对的三重风险：算法的不可解释性与欺骗性、数据伪造问题，以及AI成为核心引擎后的系统性安全风险。他特别强调，无论AI如何强大，最终都必须坚持人机协同与流程回滚，确保决策责任明确到人。

北京银行软件开发中心副总经理王曦指出，北京银行已确立建设人工智能驱动商业银行的目标，将AI应用于300多个场景。他以供应链金融这一核心业务为例，说明了大模型在审核贸易融资合同方面的突破——通过智能分析不同制式的企业合同，将准确率提升至90%以上，极大地提升了传统人工审核的效率。同时，他指出常被忽视的算力供应链安全问题和体制机制挑战，特别是AI审批贷款的问责机制这一现实难题。王曦透露，目前业界普遍采用与传统方式结合的过渡方案，并严格遵守监管要求，谨慎控制生成式AI在面客场景中的应用范围。

华福证券首席信息官李宁从证券行业的角度形象地描述了证券APP从“工具时代”的功能菜单堆砌到通过知识库优化进入“核心业务阶段”，再到如今出现“AI原生APP”的商业模式变革。李宁指出，这种新型APP彻底摒弃了层层菜单的设计，通过多智能体协作，根据客户画像和交互习惯，以对话式、图像化的方式提供个性化服务，实现了从“人找功能”到“服务找人”的根本转变。关于风险与挑战以及未来应对，他提出具有实操性的风险管理框架——用规避、转移、减轻和接受四种策略来应对不同性质的风险。他特别指出，要清醒认识当前技术的局限性，合理设定AI的能力边界。