8月31日,在剛剛出版的《騰訊大數(shù)據(jù)構建之道》新書中,騰訊首次對外披露了自身大數(shù)據(jù)核心技術體系架構和海量業(yè)務應用實踐。作為國內大數(shù)據(jù)領域的一部前沿技術著作,該書匯集了騰訊在大數(shù)據(jù)領域幾十位技術專家的思考和實戰(zhàn)精髓,通過全面剖析自身在大數(shù)據(jù)領域的探索以及落地,為國內大數(shù)據(jù)從業(yè)者提供了一份極具價值的參考文獻。
騰訊公司副總裁蔣杰表示:“從第一代的離線計算到以隱私計算、數(shù)智融合、云原生為代表的第四代大數(shù)據(jù)技術,騰訊大數(shù)據(jù)團隊不斷基于內部海量業(yè)務實踐,打造領先的技術和產(chǎn)品服務內外部眾多客戶。未來,騰訊還將通過騰訊云持續(xù)開放自身在大數(shù)據(jù)領域的技術和經(jīng)驗,攜手合作伙伴,為各行各業(yè)客戶創(chuàng)造價值,加速推進數(shù)字經(jīng)濟和實體經(jīng)濟的融合發(fā)展。”
《“十四五”大數(shù)據(jù)產(chǎn)業(yè)發(fā)展規(guī)劃》提出,當前數(shù)據(jù)已成為重要的生產(chǎn)要素,大數(shù)據(jù)產(chǎn)業(yè)作為激活數(shù)據(jù)要素潛能的關鍵支撐,是加快經(jīng)濟社會發(fā)展質量變革、效率變革、動力變革的重要引擎。此次騰訊推出的《騰訊大數(shù)據(jù)構建之道》,系統(tǒng)性復盤了大數(shù)據(jù)技術在騰訊內部的應用發(fā)展與演進,對促進國內大數(shù)據(jù)產(chǎn)業(yè)的共同進步具有積極意義。
據(jù)悉,該書由騰訊數(shù)據(jù)平臺部與機械工業(yè)出版社合作出品,內容總體分為兩大部分:第一部分,主要講述了騰訊大數(shù)據(jù)平臺的技術體系;第二部分,主要講述了騰訊大數(shù)據(jù)通過騰訊云對外開放的一系列產(chǎn)品。
在第一部分,騰訊大數(shù)據(jù)團隊從自身平臺的發(fā)展歷程和總體架構切入,深入介紹了各項技術原理,闡述了實戰(zhàn)過程中的挑戰(zhàn)和自研核心技術的設計思想。內容覆蓋了大數(shù)據(jù)接入、計算、存儲、分析、調度等大量技術組件的整體架構和應用展示,當中不乏數(shù)據(jù)實時采集TDBank、下一代大數(shù)據(jù)分布式存儲Ozone、高性能的大數(shù)據(jù)SQL引擎SuperSQL、自主研發(fā)的高性能分布式機器學習平臺Angel等多個重量級產(chǎn)品的詳細剖析。
以分布式計算為例,書中詳細介紹了SuperSQL的關鍵技術,以及在OLAP 數(shù)據(jù)分析、跨數(shù)據(jù)中心查詢優(yōu)化等多個場景中的應用細節(jié)。作為騰訊大數(shù)據(jù)自研的跨數(shù)據(jù)源、跨數(shù)據(jù)中心、跨計算引擎的的高性能大數(shù)據(jù)SQL引擎,SuperSQL致力于優(yōu)化集群資源的使用,提升使用業(yè)務數(shù)據(jù)的效率,并幫助解決業(yè)務數(shù)據(jù)孤島問題。目前,SuperSQL 在騰訊內網(wǎng)及外部客戶均已部署使用,對接多個跨數(shù)據(jù)中心集群,每個集群規(guī)模達數(shù)百臺機器。
圖:騰訊SuperSQL系統(tǒng)架構
在第二部分,大數(shù)據(jù)團隊主要介紹了騰訊在數(shù)據(jù)治理、數(shù)據(jù)應用、機器學習等方面的建設經(jīng)驗,并對騰訊大數(shù)據(jù)產(chǎn)品及其在內外部場景的實踐落地進行了解讀。以騰訊自研機器學習平臺Angel為例,其功能涵蓋傳統(tǒng)機器學習、圖挖掘、圖學習、深度學習和隱私計算等,是國內第一個在全球頂級AI開源基金會——LF AI基金會畢業(yè)的頂級項目。自 2017 年開源后,已被華為、小米、OPPO等一百多個公司和組織使用。在本書中,騰訊大數(shù)據(jù)團隊對其系統(tǒng)架構、運行架構以及功能特性進行了逐層剖析,能有效幫助讀者建立起相關的深度認知和理解。
而針對行業(yè)人群在大數(shù)據(jù)運營方面的廣泛痛點,本書還從大數(shù)據(jù)平臺規(guī)劃、平臺治理、 運維體系構建、運營成本優(yōu)化、數(shù)據(jù)資產(chǎn)管理等方面系統(tǒng)性地介紹了騰訊積累的經(jīng)驗。 也是在伴隨海量數(shù)據(jù)業(yè)務爆發(fā)式增長過程中,以數(shù)據(jù)驅動運營,實現(xiàn)平臺高度自治為目標的不斷探索的成果,為有大數(shù)據(jù)平臺構建和運維需求的企業(yè)和團隊提供了實用的直接參考。
圖:騰訊大數(shù)據(jù)運營分析及應用體系架構
在剛剛召開的首屆騰訊云大數(shù)據(jù)峰會上,騰訊云副總裁劉煜宏透露,目前騰訊云的大數(shù)據(jù)平臺算力規(guī)模已經(jīng)突破千萬核,日實時計算量達百萬億級、日運行容器數(shù)超億級,日計算數(shù)據(jù)量數(shù)百PB,服務的企業(yè)客戶數(shù)超2萬家,開源社區(qū)代碼貢獻量超800萬行,進一步呈現(xiàn)了騰訊在大數(shù)據(jù)領域的頂級實力。
