打开网易新闻 查看精彩图片

记者 陈植

面对快速上涨的Token(词元)账单,有些银行的高层开始“坐不住”了。

2026年6月底,赵毅所在银行的高层在上半年工作总结会议上提出,不能无休止地烧钱消耗Token,银行所有的大模型及智能体研发应用,都要尽快建立投入产出比(ROI)评估机制。

赵毅是一家中型银行的IT部门主管。银行高层的上述新要求,让他感到错愕。

今年初,赵毅所在的银行管理层提出,Token消耗量的增加,意味着智能体与大模型正在参与更多业务场景,有助于全面提升银行的金融服务品质与客户需求响应速度,为银行在AI(人工智能)时代立足奠定关键基础。

受此影响,这家银行的各个业务部门在上半年加码使用大模型优化业务流程、研发训练业务场景智能体,使得银行日均Token消耗量在6月底超过50亿,同比增长逾10倍。

赵毅发现,在AI时代,Token的日均消耗量,正成为衡量银行加快数智化转型的一个重要标尺。尤其是随着智能体与大模型在金融领域的应用日益广泛,其他银行的日均Token消耗量同样增长迅速。

招行首席信息官周天虹6月25日在股东会上披露,截至今年5月底,招行日均Token消耗量已达330亿。邮储银行高层6月26日在股东会上透露,其日均大模型调用超600万次,日均输入、输出Token超百亿。

公开数据显示,民生银行、兴业银行的日均Token消耗量在40亿—60亿之间。

Token使用量激增背后,是银行支出的上涨。

赵毅说,按国产大模型每百万Token(输入+输出)平均付费约10元计算,上半年他所在银行的IT部门的Token日均支出涨至5万元,上半年总计花费约900万元,占银行上年度IT预算的8%。

支出快速增长

作为一家股份制银行对公业务客户经理,刘宏每天上班的第一项工作,是向智能体输入企业信贷申请资料,由后者自动生成企业信贷尽调报告。

“这是银行布置的新工作任务。”他透露。去年,银行高层提出要让每个员工学会使用大模型及智能体,进而提升工作效率。于是,对公业务部门迅速联合IT部门研发了一款企业信贷尽调报告撰写智能体,要求对公业务部门所有员工从年初起,将企业信贷尽调报告撰写工作都交给这个智能体。

为了“鼓励”员工天天使用上述智能体,对公业务部门还规定每个员工的日均最低Token消耗量,未达标者将遭遇绩效考核扣分。

起初,刘宏顾虑重重——担心企业信贷尽调报告撰写智能体所生成的报告纰漏百出。

令他吃惊的是,这个智能体“越来越好用”,不但其生成的内容准确率超过95%,还能快速自动抓取贷款申请企业的最新法律诉讼及舆情信息。

刘宏感慨,自己在企业信贷尽调报告撰写方面的工作效率骤然提升逾80%。

“如今,我有点离不开这个智能体。”他坦言。

这个智能体能有如此表现,离不开整个对公业务部门所有员工的每日训练。整个上半年,刘宏所在对公业务部门的日均Token消耗量逾亿,其中65%用于向这个智能体输入各类企业财务信息,训练它持续提升企业信贷尽调报告的准确性与全面性。

在Token使用方面,刘宏发现对公业务部门始终“屈居人后”。客服部门、投研部门的日均Token消耗量均超过3亿,是对公业务部门的逾3倍。具体而言,每天客服部门将海量Token用于训练客服智能体,提升后者自主问答能力以快速响应客户各类金融咨询问题;投研部门通过大模型采集大量金融市场资讯,生成宏观经济分析报告与行业投资趋势报告,作为自营部门与资管部门投资决策的新依据。这也导致其日均Token消耗量持续大幅增长。“上半年,银行高层全力支持各个业务部门使用更多Token训练智能体与提升业务效率。”刘宏告诉记者。5月份,银行高层还专门表扬日均Token消耗量排名前三的业务部门,理由是AI正在深度融入他们的业务场景,更快推动业务运作模式由人工驱动转向智能驱动。

赵毅感受到银行IT支出的明显变化。

2025年,银行逾30%的IT预算用于采购GPU(图形处理器)、多机多卡互联与高速网络设备,为自研金融大模型提供足够的硬件支持。相比而言,Token付费占比不到银行当年IT预算的3%。

今年上半年,他发现Token付费占比持续迅猛提升,接近上半年银行IT预算的8%。究其原因,一是各个业务部门都要求员工使用大模型及智能体,二是为了加快智能体的研发应用进程,部分业务部门干脆使用大模型进行代码编写。

“按照当前的Token日均消耗量增加趋势,我预计下半年银行日均Token消耗量将很快突破100亿,银行日均Token付费随之突破10万元。”赵毅说。这意味着下半年银行需为Token付费安排约1800万元预算,占到下半年银行IT运营开支的约15%。

6月中旬,当他向计划财务部递交下半年Token付费预算清单时,对方私下表示,这个预算未必会获批,原因是银行高层认为Token支出增速过快,有些业务场景的智能体及大模型应用成效并不显著,需重新审视银行在Token方面的投入产出比。

这让赵毅感受到,风向开始变了。

开始看效益

在6月底举行的上半年工作会议上,赵毅所在银行领导对部分智能体“Token消耗极大、实际效果欠佳”感到不满,直接点名了财富管理服务智能体与小微信贷风控智能体。

前者在上半年的日均Token消耗支出超过2亿(日均Token付费约2000元),却未能形成千人千面式的财富管理服务能力。面对银行领导提出的多个“个性化”财富管理咨询问题,这个智能体回复内容高度同质化,都在推介当期银行热销的理财产品。

后者在上半年的日均Token消耗支出超过3亿元(日均Token付费约3000元),但在给小微企业信贷评分方面,这个智能体仍侧重关注企业能否提供足够抵押物,导致众多小微企业信用贷款被挡在门外,难以给银行小微业务创造新的业务价值。

此外,银行高层还特别强调要大幅度削减使用大模型进行智能体代码编写的Token支出,因为这些大模型自主生成的智能体运营代码缺乏对银行业务合规性的了解,导致相关智能体在运行过程中时常遭遇合规风险,不得不由人工重新改写相关运行代码。

7月初,赵毅接到一项新工作任务,尽快对银行各个智能体及大模型应用制定相应的投入产出比评估机制。若部分业务场景的智能体及大模型应用成效差强人意,就果断压降其Token使用量。

赵毅的最初想法是测算这些智能体研发+Token开支等投入,能否换来多重产出。这些产出包括客户满意度提升、人工成本压缩、业务流程优化所带来的运营成本减少,以及创造多大的业务价值(客户转化、存贷款规模增长与中间收入增加等)。

但是,领导不满意这些笼统的评估指标,要求他对产出进行量化测算。

不过,银行业务的价值创造链条相当复杂,赵毅难以精准估算智能体及大模型应用的具体贡献度。目前,他只能借鉴其他银行的做法,引入“AI贡献比”,即测算智能体及大模型在应用过程中,能替代多少人工操作时间。

他测算发现,客服智能体每年能节省约300万小时的人工操作时间,相当于每年“替代”约1400个全职员工的工作量。

日耗百亿级Token的大行,其AI投入和产出又是如何呢?

周天虹表示,招行在AI应用方面采取“业务端积极、开发端审慎”的策略。当前招行330亿的日均Token消耗量,主要由业务部门产生。究其原因,是大模型软件架构能力偏弱,令大模型编写代码的成本相当高昂,还容易生成难以阅读的“面条式代码”和性能问题、安全问题等。

他透露,目前招行的大模型成本收入比维持在20%左右,即在人工智能领域投入20元,可以创造100元收益。

周天虹在招行业绩发布会上指出,去年招行通过智能体及大模型应用,实现1556万小时的人工替代,相当于“产生”逾8000全职员工的工作量。

“目前我们尚未达到这个投入产出比。”赵毅告诉记者。7月6日,银行高层向他提出了一个量化评估指标,即智能体与大模型研发应用的投入产出比不能低于3倍,即每投入1元研发费用(包括Token支出),应换来至少3元收益。

刘宏也发现,7月起,该行对公业务部门悄然间压降了员工日均最低Token消耗量考核要求,较上半年低了20%。

他多方打听了解到,银行领导认为当前Token收费较贵,导致上半年银行Token付费金额远远超过预算。因此,各个业务部门被要求对Token“省着点用”——在不影响业务数智化发展的情况下,尽可能压降Token开支。

博弈

面对呼之欲出的投入产出比评估机制,赵毅所在银行不同业务部门“反应不一”。

客服、行政、营销策划等部门显得泰然自若,因为他们觉得智能体与大模型应用已创造超预期的应用成效,银行不会压缩他们的Token使用量。

相比而言,私人银行部与金融市场部忧心忡忡——毕竟,他们所研发的家族办公室服务智能体与外汇撮合交易智能体见效较慢,容易成为上述评估机制实施后的首批“利益受损者”。

7月初,私人银行部主管找到赵毅,要求他不要压降家族办公室服务智能体的Token使用量与研发投入,理由是这个智能体仍需要大量数据训练与技术研发,才能更精准地理解上下文内容与完成多轮次交互,从而向高净值客户提供专业全面的家族办公室咨询服务。

金融市场部也向赵毅提出类似的要求,理由是上半年他们将Token用于外汇撮合交易智能体的运行代码编写,下半年正计划给这个智能体进行数据训练与服务迭代。一旦研发投入与Token使用量被压缩,这个智能体研发将前功尽弃,导致数百万元的前期研发投入与Token支出打了水漂。

他觉得,这些业务部门希望维持现有的研发投入与Token支出预算,除了推动相关智能体更好地落地应用,还有一个原因是他们不想在银行数智化转型过程中落伍。

但是面对这些业务部门的要求,赵毅左右为难。

对于下半年日均Token消耗量使用要求调降,刘宏身边的同事则相当开心。因为他们意识到,随着企业信贷尽调报告撰写等智能体越来越好用,自己的工作岗位在不久后或被这些智能体替代。

未来,企业客户只需向这些智能体如实输入财务数据与运营数据,后者就能快速自动生成企业信贷尽调报告并递交信贷申请,银行也就不需要众多的对公客户经理。

7月起,刘宏发现部分同事开始向智能体输入与企业信贷无关的企业信息,既能完成个人每天的Token最低消耗量考核要求,又能“阻止”智能体不断进步迭代,最终替代人工岗位。

赵毅所在银行的高层也注意到类似的问题。

7月8日,银行举行内部会议,向各个业务部门主管强调——尽管银行开始关注智能体及大模型应用的投入产出比,但这并不影响银行鼓励各个业务部门继续开发能快速提升业务效率、创造更大业务价值的智能体及大模型使用方法。而这些智能体与大模型使用方法的面世,绝不是为了替代人工,而是解放人工,让一线基层员工能拥有更多时间和精力拓展新业务,共同将银行业务蛋糕做大。

银行高层还强调,未来一段时间,银行内部还将全面梳理各个工作岗位与智能体的协同关系,明确哪些工作仍由人工操作,哪些业务流程可以通过拆解、优化与自动化,交给智能体完成,以及在智能体自主运作业务流程中,哪些风险点仍需人工把关。

(应受访者要求,赵毅为化名)