来源:第五届农村中小金融机构科技创新优秀案例评选

一、项目背景及目标

近年来,随着各类新型信息技术的快速发展及应用,高度“数据化”的金融行业在多方因素的推动下也进入了全新的数字化升级变革阶段。一方面,金融行业的业务形态、数据维度、业务需求变得更加复杂多元;另一方面,数据作为一种资产的价值被不断释放,成为推动业务增长的新动力。同时,2020年以来受新冠疫情的影响,线上金融服务的需求爆发,对金融机构运用自身数字资产体系的建设和管理提出了更高的要求,迫使金融机构提升业务数字化运营能力,推动了金融行业变革发生。从“业务数据化”到“数据业务化”,一切以数据为基础,用数据驱动金融机构的经营和管理已经成为金融机构的改革目标。

自2006年新疆维吾尔自治区农村信用社联合社成立以来,全区资产、负债规模始终保持高速增长,进入了业务发展的快车道,对于数据统计、分析、预测等信息化手段的诉求愈发强烈,数据量的爆发式增长,迫使原有的数据平台已经无法充分发挥数据价值,完善的大数据服务体系已变得尤为重要。

根据自身的战略目标和发展规划,新疆农信广泛汲取同业成功经验,结合信用社的资源现况,以科技推动业务创新为主要建设思路,启动并实施了大数据平台项目,通过建设全生态的数据体系,实现数据的平台化管理,完成全行内外部数据整合、数据资产化建设及驱动业务不断创新。

二、创新点

新疆农信大数据平台项目以数据中台建设为目标,包含对数据进行采集、计算、存储、加工统一标准和口径。包含数据仓库、大数据中间件和数据资产管理。并通过构建各类数据服务,实现支撑银行各类业务应用数据。

新疆农信大数据平台建设特点:

1、注重科技创新,夯实数据基础

在本次建设过程中,新疆农信积极创新,在基础环境层引入国产星环大数据平台,在数据采集交换层探索实时与准实时数据采集环境,相比与传统“T+1”方式,数据时效性大大提升。同时数据存储计算能力获得极大发展,为后续业务发展打下良好基础。

2、注重数据质量,筑牢信息安全

在建设过程中,同步落地数据治理,提升数据质量。所有模型都基于农信数据标准进行设计实现,数据统一进行标准化处理。在数据使用时,严格管控数据安全,数据分区处理,区分不同用户角色权限,敏感数据进行在线脱敏。

3、注重主动服务,转向数据运营

紧跟发展需要,数据管理团队主动熟悉业务场景,根据业务需要主动与业务部门沟通数据需求,主动提供数据服务。在大数据平台进行能力封装,为业务部门提供更加实用易用的数据服务。将数据作为产品不断深入运营。

4、注重敏捷响应,探索智能发展

基于大数据应用平台,不断提升数据需求响应速度,提高数据处理与提供服务效率的同时,搭建模型实验室,积极探索智能应用。其中不良贷款预测模型为我行发现与处理风险贷款提供了极大的帮助。

5、注重用户体验,赋能业务应用

本次大数据应用平台建设,目标用户不仅是科技与数据人员,同时包括全行业务人员。因此在建设过程中,根据业务需要,为业务人员设计统一的用户权限体系与功能服务,方便业务人员看到数据、理解数据,并且能够基于数据进行分析,掌握业务发展动态,为更好地处理业务提供帮助。

三、技术实现特点

元数据管理。数据治理平台基于完善的元数据采集,实现在某一业务条线,局部形成基于元数据可描述的数据处理映射接口,利用Java反射机制自动生成满足微服务架构的ETL服务,将原先冗长的ETL变更过程改造成可根据实际需求进行局部微调,短时间上线的微服务数据处理体系。

数据标准管理。数据治理平台在数据标准中引入交易记录级别的唯一性约束规范,针对每一笔业务记录生成一个全局唯一的识别标志,即“微标识”。将数据标准的构成三大部分 “技术类属性”、“业务类属性”和“管理类属性”记入标签。每一笔业务数据都可以从三个角度分别进行合规性检查,将数据治理的工作精确定位到具体柜员在精确时间内的业务操作,将指标数据可视化,让各级管理人员均可获得量化到一线的数据治理考核数据。

“微标识”管理。将产生数据的业务、承载数据的ETL微服务、管理数据的元数据作为跟踪的三大基本要素,采用数据治理系统中的“业务术语”模块为业务功能和业务流程提供全局唯一的“微标识”,利用元数据管理模块的血缘分析跟踪ETL微服务的“微标识”,结合数据标准提供的企业数据架构中数据对象的“微标识”定位数据实体,实现基于业务变化的数据驱动治理目标的随需应变。

数据目录管理。类Git架构的版本管控体系,任意数据实体均可以按不同业务条线、不同业务活动形成相应的多维度数据,确保数据架构的局部变化不影响业务系统的当前业务流程,数据标准的改造可以根据业务运营的需要持续进行。

元数据的血缘分析:刻画和跟踪应对数据和业务的局部变更。

系统架构如图所示:

治理+重构 企业数据架构

信用社数据平台项目通过一套完整的数据建模,按照信用社的实际需求构建企业级元数据数据结构,支持知识图谱分析,通过数据地图模块提升企业数据架构分析的建模能力,帮助农信社在整理数据的同时发展新业务,实现“精细化、数字化、专业化的智慧型银行”所需的异构大数据建设。

边治理边拓展

传统的IT系统建设都是先明确需求、再形成针对性的IT功能。而在数据治理的实施过程中,会伴随着治理措施的持续深入,不断发现和形成新的需求,因此数据治理系统在上线之就需要面对无限可能的治理变化。因此数据治理系统具有灵活的架构体系,随需而变。信用社数据治理平台项目底层设计是可编排的微服务阵列,交互式框架设计数据聚集和业内具备前瞻性的展示引擎,从数据处理流程到界面数据项都提供在线自助式定制能力,达到了在保证业务发展的同时进行数据治理。

严谨的元数据体系

信用社数据治理平台项目的元数据管理,在底层建立完整的业务词汇表,为新疆农村信用社其他业务系统提供一套严谨的术语管理,不论是数据结构的命名体系,还是数据本身的代码表的编制系统,或是业务规则、业务流程的界面语言,由“业务辞典”进行编制、发布和修改,保障数据标准制订、管理制度落地、数据治理协作,各业务部门可以通过一致的、准确的业务用语进行沟通和部署,实现精细化的数据治理。

元数据管理可视化

新疆农信数据治理平台项目的元数据管理全面支持“技术元数据”、“业务元数据”、“管理元数据”发挥各自的功能,技术元数据提供IT管理的技术标准治理能力,业务元数据提供业务经营的业务标准治理能力,管理元数据提供经营管理活动的管理标准治理能力,将“无形”的管理活动可视化,便于针对治理体系和标准体系进行可视化分析和构建,提供先进的全生命周期、全过程覆盖的治理能力。

自动化规则体系

信用社数据治理平台项目配合其可视化和完备的元数据系统,提供了将技术元数据、业务元数据、管理元数据编译为可执行的检查规则脚本的功能,这些脚本由规则引擎解释执行。规则引擎即可部署在新疆农信数据治理平台项目的编排阵列中,也可以部署在数据所在的存储系统上实现远程检测。

协作与版本

数据治理涉及企业数据的全生命周期,需要信用社中各个部门的全程配合。数据治理平台项目强调数据治理中各个岗位之间的协作能力,尤其是数据标准的编制与发布、元数据的设计与部署、质量检测与补录,提供并行编辑、多版本多分支管控、数据驱动的流程管理功能,最大限度为业务发展而不断变化的治理过程提供规范、灵活的执行能力。

四、项目过程管理

1.需求分析和概要设计阶段

此阶段时间段为2021年1月至2021年3月,其间主要完成了业务需求分析、业务功能和技术构架的高层设计。提交了现状需求分析报告、各功能模块的高层设计、技术构架和接口的高层设计等文档。

2.系统详细设计阶段

此阶段起始时间为2021年3月至2021年5月,其间主要完成了系统详细设计工作,提交了新疆农信数据管控平台系系统详细设计说明书等文档。

3.系统编码,测试和上线准备阶段

此阶段起始时间为2021年5月至2021年7月,其间完成了新疆农信数据管控平台系系统客户化开发的编码、测试以及试点行上线准备工作,提交了新疆农信数据管控平台系系统测试报告、上线方案、系统设置等文档。

4.试点行上线阶段

此阶段起始时间为2021年7月至2021年9月,其间完成系统上线工作,并根据试点行上线运行的情况,对系统和数据进行优化调整。

五、运营情况

数据的价值则表现在为数据资产保值和增值,数据治应该理加速使数据成为信用社核心战略资源、进入资产负债表的进程。信用社在开展数据治理过程,始终围绕业务支撑面和职能条线进行。通过平台级数据服务,如数据管控服务,多维分析数据服务,数据安全服务等,支撑上百个下游业务系统。进一步对各联社、网点提供多样化的支持,加以建设各类支撑性应用系统,如精准营销模型,自助分析系统等,使数据资产价值得到充分发掘

大数据平台上线后,对于管理数据标准、检查数据质量问题及解决数据质量问题有了明显提升:

(一)平均每条数据标准的管理周期为5小时,建立全联社共有基础和指标标准两千余条。

(二)单次数据质量问题从发现到解决,投入工作量0.5天/人。

(三)可以根据数据所属机构自动分派指定到数据所属机构及人员。

(四)数据所属人员根据辅助提示信息理解错误的原因并修正数据,提升数据质量问题的解决效率和数据的准确程度。

(五)提升了数据质量、业务分析统计的准确性、完整性。

六、项目成效

本期大数据平台应用项目基于新疆农信业务战略与经营管理的需要,聚焦数字化能力建设,全面梳理数据资产,通过数据治理提升数据资产质量,结合业务需求及发展需求,设计优化数据服务,通过数据服务产品化管理和运营,全面提升我行数字化水平,为业务发展提供动力和支撑。主要体现在如下方面:

数据处理能力大幅提升,仅上线初期就已经达到日均处理作业3000余笔,日均接入新增数据超50G,后续随着业务系统接入,平台处理能力将快速提升。

数据服务范围答复拓展,通过内外部数据融合,全行信息整合形同统一数据底座,并基于此构建了面向零售、对公、中间业务等不同业务场景的数据服务与数据应用,为业务发展奠定基础。

数据服务机构遍及全疆,大数据应用平台为全疆全部二级法人机构提供数据服务,是目前国内信用联社中覆盖地域最广的数据服务平台,在数据效率、传输安全、数据质量、用户体验等方面都进行了专项设计与提升。

七、经验总结

新疆农信本次大数据应用平台建设为我国农信体系建设数据中台提供了非常有意义的探索与实践,在新冠疫情期间建设极为复杂的数据中台殊为不易。农信体系不同于商业银行,二级法人机构对于自治区联社(省级联社)的科技依赖度非常高,自治区联社在平台建设中需要认真调研,考虑各家机构的切实需求,在平台建设上既要面向创新,又要兼顾部分机构遗留业务支撑,既要敏捷化又要数据安全,难度非常大。本次建设通过统一规划,一步步推进落地,切实为新疆农信数字化转型提供了基础服务保障。

更多金融科技案例,请登录数字金融创新知识服务平台- 金科创新社(FintechinChina.com)官网案例库查看。