今天是10月24日
一年一度的程序员节
对于金融行业的技术人来说
就在上周
“ 数智涌现 极速重构 ”
2023恒生金融技术大会成功举办
为金融行业技术人奉上了一场年度思想盛宴
大咖洞见|金融行业对大模型的思考
今年,大模型成为最热技术关键词
随着金融行业数智化浪潮涌现
对于大模型在行业的应用和挑战
嘉宾们也带来了各自的观点
兴业证券金融科技部总经理蒋剑飞
认为:
目前整体上证券公司的大模型应用仍处在逐步探索的起步阶段,很多点状的应用场景已经开始爆发出来,但是体系化的、规模化的应用场景还有待进一步挖掘。大模型成本和成效是未来面临的主要挑战之一,算力不足及成本过高是制约当前应用的主要问题。
三人对谈,高手切磋
锚定金融大模型的落地探讨:
从差距弥合到架构演变
分享先锋洞见
| 恒生电子首席科学家 白硕(左)
| 国金证券首席信息官 王洪涛(中)
| 华林证券科技子 CEO 李彬(右)
目前大模型落地金融领域,距离机构的期望、需求有什么差距吗?
王洪涛:
在过去半年时间里,在大模型领域,包括专业语料、专业词汇、RGA、向量数据库,等各种场景的应用,都有了很大的突破。
但在实际的应用中,内部应用系统和外部系统的结合,成本和收益如何计算,大模型在金融行业如何实际应用,如何将部分缺点转化为其优势,依然是值得思考的问题。
李彬:
首先是ROI评估的问题、成熟解决方案缺失的问题,此外组织内部还要考虑人员角色转换、人员培训的问题。今天大模型的应用落地已经不是纯粹的技术问题了。
弥合大模型落地金融领域的差距,需要理清的一个问题是“谁是主导”,在组织层面,科技企业是主导,还是金融机构是主导?
王洪涛:
首先,GPT就是General Purpose Technology通用语言模型技术。GPT技术非常重要的特征是它有溢出效应。技术发展到一定程度之后,不仅仅是影响自身,而是会影响所有行业。
这个过程在前期的过程中,肯定是科技公司占主导,在溢出效应的过程中,因为重要的是场景以及各项产品的结合,在这个过程中,我想应该是金融机构占主导的概率更大。
李彬:
GPT技术是自然语言算法领域的重要进展和产物。在GPT4面世之前,需要科技企业要主导,推动自然语言技术达到可用状态。OpenAI的ChatGPT4让市场、用户对这项技术的应用场景有认知。同时在主导因素层面会有科技企业和金融机构“交接棒”的过程。
金融机构都家里有“数”,要发挥出自有数据的效用,对大模型有什么不同的诉求?
王洪涛:
一方面,金融机构内部都有大量的数据,很多数据没有得到很好的整理和治理,我们也在学习和应用大模型过程中学习数据的治理和规范;另一方面,内部的数据管理包括安全性、实时性、内部自身的数据版本以及标识、规范性上,经常出现一些问题。
对金融机构来说,一方面期望通过业务流程的控制,把各个证券公司的基础数据或者主数据进行梳理,另一方面是大模型本身对数据安全性、实时性以及数据连通性各方面也要持续不断做一些调整。
李彬:
一是在大模型的部署方面,机构和服务商可以做更多技术上的探索,如何发挥云服务的优势、降低大模型应用的算力成本。二是要研究大模型的插件理念,探索私有数据以安全的、插件化的模式与大模型交互。另外在提示词的设计和优化上,如何进行脱敏化和抽象化,也值得进一步探索。
架构是持续演进的,曾经的烟囱式架构变成了微服务架构,随着大模型的应用越来越深入,业务系统、支撑业务系统的架构会发生什么样的改变?
王洪涛:
大模型在应用和落地过程中可能有这样一些形式,比如外挂式,比如一个客服一样,嵌一个页面,甚至页面都不嵌入就直接就外挂的。第二个层面就是嵌入式,更多是API调用,API调用和内部应用流程的结合。第三个就是大模型原生。在这个过程中,我相信整个应用系统的架构变动,外挂式可能影响比较小,不需要太多的变动,但是API调用之后,就会有很大的变化。不管是外挂、嵌入还是原生式,大模型技术都会给架构都会有一些改变和改善。
李彬:
短期来看,较高的算力成本导致原生应用落地存在困难,以大模型为中控调用已有的能力、局部优化系统流程的架构模式更具性价比。长期来看,业务系统、业务支撑系统的边界、人机协同的边界会发生变化,会对整个技术架构会带来不小的影响。
如果这个架构落地后,对于自身的IT组织架构会带来怎样的变化呢?
王洪涛:
我相信金融IT的架构一定会面临一个大的变化,对金融机构来说会面临IT组织架构和人员,包括流程上的重构。
李彬:
金融机构和供应商之间的关系一定会发生变化,端到端的解决方案能力会变得更加重要。金融机构内部也需要重新对人员岗位和技能进行调整优化。
大咖观点 | 聚焦金融技术热点话题
智能涌现,会给金融行业带来哪些范式变化?
金融行业自主创新跨入深水区
国内外环境、产业侧、应用侧的现状如何?
自主创新进入深水区,金融核心系统如何建设?
大咖们带来各自的技术解密
恒生电子CTO乐识非
带来了
数智金融浪潮下恒生的技术洞察
为适应金融行业的需求变化,目前已形成了三大技术趋势:面向积累、复用、创新的架构资产原子化;面向金融高可靠的标准业务、核心业务的产品化;面向个性化服务定制的,应用开发效率提效工具化。
客户侧的创新加速了个性化、敏捷迭代、快速开发;市场创新和制度的创新又使得极致演进高可靠、高可用、极致性能成为必然。
这时候,金融机构的生产系统将从从集中式,分布式演进为更新一代的架构Fabric,它的核心系统追求极速性能,非核心系统追求敏捷、快速迭代、快速上线、尝试;系统间消息、数据互动更频繁。
Fabric是一个体系,包括:技术实现、方法、制度、理论指导等。“云原生技术”将 “快速”迭代软件开发。通过生产工具低码平台、AIGC等方式,通过积累生产资料(公共组件、公共模块、公共代码)等两个方面来实现应用快速开发和迭代,最终快速响应业务需求。
大模型时代,服务将变得更加原子化。从现在物理上网的Fabric到消息的Fabric,数据的Fabric,最后可能演变为服务的Fabric,整个架构将平滑演进支持大模型原生应用发展。
中国信通院金融科技研究中心主任何阳
认为:
金融业数字化转型规划与评估工作,需要主动作为,着力推进“一规划、两评估”,助力行业数字化转型。在相关部门指导支持下,中国信通院也在联合多家银行、证券、保险机构,共同启动金融业数字化转型“一规划、两评估”相关研究工作。
由于金融机构普遍处于数字化转型与金融信创建设的“双期叠加”阶段,金融信创对传统数字化转型规划带来了诸多影响,覆盖IT投入、业务系统建设、软硬件替代、运维保障、兼容适配、技术路线、体制机制等多个方面。
信通院基于业务价值的金融业数字化转型能力评估标准,将结合银行、证券、保险等金融业不同细分领域的场景特征,从业务、技术、组织等多个维度着手,建立基于业务价值的金融业数字化转型能力评估体系,为行业数字化转型工作提供实践指引和评估依据。
恒生电子总裁助理许欣芃
在恒生金融技术大会上分享了
恒生关于金融核心系统自主创新的应用实践:
他介绍了恒生自主创新适配改造中所面临的多个难点,包括数据库适配的多样性、系统稳定性保障、商用中间件功能补全等。
许欣芃提出采用“一次SQL编写,处处运行”的策略来实现兼容性,降低数据库适配的运维压力,同时提出了系统数据库并轨、灰度上线和逐步下线Oracle的三步策略来保障自主创新系统的稳定性。
此外,他建议使用技术平台封装商用和开源中间件来实现业务无感知,并强调桌面终端适配应优
许欣芃认为:金融行业系统的自主创新,未来主流的技术趋势包括数据库与业务需求的融合、内存数据库的高性能处理以及信创云对金融机构技术升级的基础作用。
大咖分享| 聚焦数据热点话题
伴随着数字经济的蓬勃发展
数据的治理和应用已是大势所趋
基于数字化赋能的数据治理,最佳实践是?
大模型时代下,如何重新审视数据运营?
他们这样说
申万宏源信息技术开发总部总经理助理石宏飞
带来了申万宏源在数据治理方面的分享:
申万宏源从2019年开始进行了数据治理的专项工作,总的来讲分为两个阶段:第一个阶段为 “以应用促治理,治理服务于应用”;第二阶段主要实现 “释放数据价值,推进数据赋能”。
申万宏源的数据治理管理与技术体系建设主要分为:
- 数据中台底座,作为数据治理存储的要求,建设成了“数据仓库+数据湖”为一体的数据中台;
-组织架构为自助体系,申万宏源建了统一的数据应用体系,建立了敏态开发和发布数据的产品孵化能力;
-人工智能的应用。包括建成公司级人工智能平台,构建公司级智能推荐、智能文本、智能量化、智能投研、智能风控6大能力中心,落地7大AI场景。
石宏飞认为,认为数据治理有三大效果:一是提升了业务赋能的效率,二是拉近了业务和数据的距离;三是改变了业务与技术的模式,申万宏源未来会以以数据实验室和孵化器为载体,建立数据主动赋能业务的协作模式,从而改变业务被动接受需求的传统模式。
恒生聚源总经理吴震操
带来了关于数据运营的分享:
数字化转型最核心的能力是端到端的数据运营:从数据采集直到交付使用,实时、准确地为使用者提供所需要的数据,赋能业务。数据运营要满足六个特性:用户价值性、准确性、实效性、精益性、可分析性、及民主性。
如果把恒生聚源看成一个金融机构内部的数据部门,这个部门做的是:一、提供基础设施,网络基建和数据中心;二、数据生产,包括数据的采集、分析、打标、治理、建模等等;三、数据的衍生分析,根据不同金融业务需求,生成指标、因子、策略等;四、通过终端、数据库、DataFeed等形态提供给数据用户,赋能用户的金融业务场景。
恒生聚源一直在探索AI及大模型在数据运营中应用。构建了“Data Copilot”,通过大模型等AI手段让数据生产、数据治理、数据模型的数据飞轮能够高速运转起来。
参考数据厂商的实践,金融机构在建设数据运营体系过程中,可以:
- 请专业数据厂商代为整合和加工内外部数据,提供高可靠、高质量的数据基础;
- 参考行业标准,建立自身数据治理能力,减轻对于外部数据源的直接依赖;
- 利用行业大模型(如LightGPT)和金融行业插件(如光子),构建AI算法平台能力,提升数据运营效率;
- 构建大模型入口(如WarrenQ的Chat、ChatMiner)为机构内的数据使用者提供方便的数据和知识的获取。
心之所向,一往无前,每跨越一次1024,技术人又向前迈进一步。
坚守技术,赋能金融,技术人的脚下之路,也将更加坚定。
在今天这个日子,祝福所有的技术人节日快乐!
热门跟贴