民生银行场景化数据中台是如何炼成的?
引言
銀行是傳統行業中非常重視信息化的,而且起步早,信息化程度高,但是由于技術的高速發展,互聯網思維的沖擊使得銀行紛紛面臨數字化轉型的挑戰,這里的轉型不僅是業務轉型,也有技術轉型。
如今,許多業務不用跑去網點、柜臺,人們通過銀行的手機客戶端,動動指尖就能完成轉賬匯款、購買理財產品等,這些便捷的操作方式正是得益于銀行的數字化轉型。當然,數字化轉型轉并不只是表面上看到的業務轉型,還有其背后的技術、組織架構和人的思想的轉型。
銀行一直是新技術的實驗場,因其具有資金優勢和豐富的客戶類型,對于技術應用而言,有良好的用戶基礎,并能支撐住研發的資金投入。但是銀行業面臨的痛點也很明顯,國內銀行業同質競爭非常嚴重,業務類型、監管標準、客戶群體都高度重疊,但是流程卻各不相同,因為流程的背后是組織結構和部門利益,各個銀行之間部門設置和職責邊界都是有差別的,這種差別會直接體現在系統結構上。銀行都在談轉型,但真能大刀闊斧改革,并不容易。
民生銀行場景化數據服務中臺就是在數字化轉型的大背景下誕生的,正因為此次中臺實踐的成功,民生銀行場景化數據服務中臺也被云計算開源產業聯盟選為“2020云原生應用十大優秀案例”。
銀行為什么要建數據中臺?
一般來說,數據中臺是指通過數據技術對海量數據進行采集、計算、存儲和處理,同時統一標準和口徑,形成全域級、可復用的數據資產中心和數據存儲能力中心,形成大數據資產層,進而為客戶提供高效的服務。
數據中臺構建的服務具備“可復用性”,每項服務都像一個積木,可以隨意組合,靈活高效地解決前臺的個性化需求。其核心理念是“讓一切業務數據化,一切數據業務化”。與傳統數據平臺相比,數據中臺著眼于業務的積累和沉淀,構建了從數據生產到消費、消費后數據返回到生產的閉環過程。
銀行為什么要建數據中臺?
近年來銀行經營壓力持續增大,為了尋求新的增長點,各條業務線提出了諸多個性化數據分析和服務的訴求,在沒有數據中臺時,要滿足諸如個金、私銀、小微、公司、供應鏈、資管等諸多業務線的數據需求,數據分析師和工程師需要在后臺數據倉庫上完成T+1的數據加工,然后將數據文件推送給各個業務前端系統,每個業務前端系統都維持一個小規模的數據團隊,專門負責將數據文件轉化為自己領域內的數據服務,實現業務需求。這種模式下有幾個明顯的痛點:
痛點1:存儲浪費大。數據以文件方式分發到各個下游系統,均需要占用大量寶貴的存儲空間,特別是通用數據(例如用戶屬性標簽等)的存儲和服務,亟需集中化的存儲和服務支撐,并且需要“云化的異構存儲能力”支撐。
痛點2:傳遞效率低。文件式數據應用鏈路以T+1批量為主,全量數據“一股腦”加載進本地應用庫,數據獲取的效率遠低于通過服務“按需”調用獲取指定內容,數據中臺為了支持前端各具業務特色的數據應用場景,需要“微服務”支撐。
痛點3:人力投入大。雖然每個業務前端系統只維持一個小規模的數據團隊,但銀行前端業務系統眾多,整體投入不容忽視,并且很多方向并沒有對應的數據團隊,因此很多業務數據上的一些思路和訴求,迭代較慢,在技術上需要“云化的部署運營能力”支撐。
**
痛點4:**管控力度弱。目前的文件式數據應用方式,文件傳送出去后,缺少有效的管控手段,無法準確回答數據如何使用、使用頻次等問題,數據的價值很難評估,這就需要考慮“云化的協作管理能力”建設。
“微服務”、“云化的異構存儲能力”、“云化的部署運營能力”、“云化的協作管理能力”是數據中臺解決目前金融業數據應用痛點的思路,將數據服務集中進行開發和處理,盤活數據,讓數據在線。
數據中臺體系技術方案
民生銀行數據中臺體系采用“微服務+云化技術”作為基礎技術架構選型,核心運轉模式由 Engine 引擎體系、 Service 服務體系、 Open 路由體系、 Plus 管理體系各類專項組件協同運轉完成:
結合民生銀行現階段業務經營的迫切訴求,阿里云從技術平臺和數據交付兩個層面為民生銀行制定了架構設計路線。
在技術平臺層面,通過微服務架構完成數據及模型的服務化,便于直接在系統上高效對接,結合技術組件特點和場景特點完成服務的標準化,形成標準的交付模式,進一步在技術上形成可配置化的服務框架,快速生產場景數據服務。在底層技術上,由于中臺數據服務的集中化建設,底層采用分布式以及云化的相關技術完成基礎層建設,讓服務更高效可靠地發布、運行并可管控。
在交付的內容層面,將團隊組織架構配合場景數據標準分區,形成小隊敏捷的交付模式,提高業務交付效率。在統一的平臺工作標準和模式下,沉淀共性數據內容,領域內形成工具、數據的復用,做到在靈活高效交付的同時,實現降本增效。
民生銀行數據中臺核心運轉模式如下圖所示。
數據中臺核心模塊運轉模式
首先,由Engine引擎體系完成對數據能力、模型能力的抽象封裝,以應對不同場景的智能數據需求。
其次,Service 服務體系完成引擎抽象能力與實際業務數據的結合應用,通過微服務模式靈活搭配,打造具備業務屬性的數據服務產品。
第三,通過 Open 體系(OpenAPI、OpenFILE、OpenMSG、OpenCFG)完成對業務系統與業務人員的快速賦能。最后,Plus 管理體系完成微服務云化管理、數據資產目錄、數據可視化等統一管理功能,并通過DevOps、容器、高性能數據訪問緩存等前沿技術組件完成數據服務高并發、高可用、彈性部署等技術能力的提升。
引擎、服務、路由協同運轉,統籌管理,共同打造了場景化金融數據服務能力。從數據指標、數據決策、智能推薦、智能模型等多個層面提供了立體化的快速支持,為金融業務數字化、智能化轉型升級的重要支撐。
異構分級存儲方案
數據中臺支撐的金融業務場景多樣,民生銀行結合數據應用特點、數據存儲組件能力、運維服務級別等因素,構建了一套異構大數據存儲組件的分級應用體系,在大數據存儲組件服務能力和業務場景訴求間取得平衡,取長補短,根據場景選擇合適的存儲組件,靈活組合、插拔式使用。
以常規的數據分級存儲方案為例,如下圖所示,引入 Redis 作為統一緩存,屏蔽下級組件服務性能波動,通過數據業務日期進行分割,近期數據存儲在 MySQL,提供 7*24 小時的運維服務保證支撐,歷史數據存儲在 HBase&SDB 等大數據存儲組件,提供強大的服務能力和水平擴展能力。
數據中臺云原生應用實現兩個“易”
金融領域里,數據中臺云原生應用服務的特點相對明確:
一是讓業務需求方真正能夠感受到數據“易用”,數據能夠直接輸出到系統、能夠在線閉環、能夠快速敏捷迭代開發。
二是在技術平臺層面,集中的平臺要面對不同業務條線、業務系統以滿足他們的數據服務訴求,平臺自身也具備支撐多樣化需求的能力。
1、技術平臺上“易”
數據中臺改變過去數據以文件輸出的模式,將數據、模型等服務化,能夠直連場景,便于形成在線的數據閉環。針對不同的數據服務場景,結合技術分級,按分級形成標準交付模式。通過標準化后,在開發上也抽象數據服務框架,結合“微服務+云化”支撐,以及配套DevOps體系完善,最后達到通過配置即可產生新的數據服務,提高效率,同時也便于質量管控。
2、交付內容上“易”
數據中臺可以實現交付敏捷化,快速滿足業務需求,數據運營和經營本質就是一個不停迭代往前的過程,通過標準化、配置化的技術平臺,按照條線領域配置矩陣式的人員交付工作模式。通過數據服務的集中開發和服務管控,通過集中監控去量化數據價值,準確了解數據使用的狀況,并最終實現成果共享化。
更多創新探索
民生銀行數據中臺體系在踐行云化架構思想上,結合金融領域數據服務特點,進行了三個方面的創新探索:
核心模塊“數據服務云平臺”與“場景化數據存儲組件”聯合打造具備服務場景化管理、技術框架靈活插拔、運維工具豐富全面的“云化開發”、“云化存儲”、“云化發布”、“云化運維”的一站式工作臺。
民生銀行根據自身業務經營狀況,采用“場景分區+技術分級”方案,保證數據中臺服務在業務場景高交付下做到可管理、可控制,能夠長期有序運行。
金融數據應用特點、數據存儲組件能力、運維服務級別等因素,民生銀行數據中臺構建了一套異構大數據存儲組件的分級應用體系,在大數據存儲組件服務能力和業務場景訴求間取得平衡,取長補短,并能根據場景選擇合適的存儲組件,靈活組合、插拔式使用。
場景化數據中臺的效果
數據中臺是連接前臺和后臺的核心資源。通過為前臺提供強大的“能力炮火”支持,可以將后臺系統中需要頻繁變化或前臺需要直接使用的業務能力“提取”到中臺層,賦予這些業務能力更高的靈活度和更低的變更成本。
民生銀行建設場景化數據中臺的效果非常明顯:首先是數據能力的提升,圍繞數據指標在線化、實時化,算法模型服務化,開放更多大數據能力,將數據應用方式由后臺向中臺化、服務化演進,直接為業務賦能;
其次是交付效率的提升,結合業務場景,將分布在不同模塊和組件中的數據服務統一管理、規劃服務方式和標準,統一服務調用方式,統一開發框架,統一緩存機制和輔助開發工具,縮短新產品開發周期,提升了交付效率;
三是運維效能的提升,采用阿里云微服務+基于Docker容器的云化技術,應用的部署、啟動、升級、停止、藍綠發布、彈伸縮等運維操作一鍵化,實現功能及服務的靈活打包部署,構建位置透明的集群服務體系,降低領域繁雜的數據應用運維成本。
最后是管理效能的提升,在統一的平臺工作標準和模式下,沉淀共性數據內容,領域內形成工具、數據的復用,做到在靈活高效交付的同時,豐富了管理抓手,實現提效降本。
總結
數據中臺的建設是一項系統性工程,從組織架構、支撐技術到流程規范,既要有宏觀的頂層設計,又要有強有力的落地執行,數據中臺的建設沒有一勞永逸的辦法,企業需要從戰略層面進行更多思考,再配合選擇合適的數據中臺服務商,方能在數據中臺建設之路上走得穩妥。
原文鏈接:https://developer.aliyun.com/article/770528?
版權聲明:本文內容由阿里云實名注冊用戶自發貢獻,版權歸原作者所有,阿里云開發者社區不擁有其著作權,亦不承擔相應法律責任。具體規則請查看《阿里云開發者社區用戶服務協議》和《阿里云開發者社區知識產權保護指引》。如果您發現本社區中有涉嫌抄襲的內容,填寫侵權投訴表單進行舉報,一經查實,本社區將立刻刪除涉嫌侵權內容。總結
以上是生活随笔為你收集整理的民生银行场景化数据中台是如何炼成的?的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 9大训练营免费开营!阿里云大数据团队的独
- 下一篇: 为什么下一个十年的主战场在Serverl