堪稱傳統基建奇跡的“三元橋43小時換新橋”工程的相關報道還歷歷在目,而某運營商也經歷著類似的考驗,需要在2天內完成某在線營銷系統整體升級。
作為某運營商的重要數據庫產品與服務提供商,留給人大金倉的時間只有每天夜間的4小時,更難的是:運營商整個“換橋”的過程中除這兩個4小時外,仍需保持“車輛通行”!
Tips:三元橋初建于1984年,日均車流量20.6萬輛,于2015年11月13日晚23時至11月15日18時完成新橋替換。在43小時內完成了舊橋拆除、預制鋼梁現場拼裝及新橋整體置換的工作。
運營商營銷系統升級項目實施計劃圖-數據庫部分
何謂奇跡?系統升級的三道關
“第一是性能關,數據庫必須進行嚴格的性能壓力測試,以保證在未來三年及更長時間段內能夠滿足業務增長需求;第二是上線關,長期積累的大量歷史數據在業務運行高連續性要求下,必須在有限窗口時間內完成數據遷移及配合應用完成業務系統的平滑切換;第三是回退關,當全國產環境出現災難性故障時,須保證可借助原有系統提供業務的連續性支撐。”
人大金倉項目負責人補充分析,“以上三點保障是本項目升級成功的關鍵,在金倉看來,照搬‘大力出奇跡’的傳統解題思路是下策,第一,疫情、春節及冬奧會多重因素疊加導致的運營商各類業務壓力增長,讓該解題思路變得難以為繼;第二,這種方式與金倉長期追求的精細化服務理念相悖。所以這次項目不止對運營商,對金倉來講也是一個不小的挑戰。”
性能 | 以百米速度跑馬拉松是什么體驗?
金倉項目負責人介紹,客戶原營銷系統的存量數據近2TB,超百億條;業務量日均超千萬,峰值可達2000萬,未來預計將翻3倍。系統建成后需保證9500以上的TPS指標要求,同時需保證業務處理整體響應時間不超3秒。
考慮到未來近三倍的業務壓力提升,用戶選擇通用高性能x86服務器作為驗證平臺,并選取10個典型業務場景,在不同的數據庫并發連接壓力下進行嚴格的性能指標測試。
經測,金倉數據庫在各測試中TPS平均值超38000,最高超42000,最低也有24000,比期望值平均高出3倍,遠超指標要求。
上線 | 隨風潛入夜,換橋細無聲
基于對原系統數據庫結構及數據規模的判斷,金倉對上線時的數據遷移過程總結出兩點風險:
風險和挑戰:
1)單次4小時左右的停服時間,只能保證完成基礎數據的全部遷移,而在遷移后創建索引等環節可能會占用較長時間,存在較大風險;
2)系統運行環境為基于云的虛擬化平臺,其性能影響可能進一步放大。
為保證原業務連續性,最大限度減少對原系統的影響,金倉采用了柔性遷移方案。
基于上述柔性遷移方案,金倉團隊于2021年xx月12日開始執行系統遷移的實施工作。
xx月12日22:00,系統進入第一個停服周期。
次日01:00完成近2TB存量數據遷移,隨即源端業務恢復,歷時共計3小時左右。
同時, KFS持續解析增量數據并進行本地緩存。xx月13日10:10目標端數據庫完成索引創建等后續工作后,KFS目標端鏈路接通,并在20分鐘內完成增量數據追平,達到兩端數據實時同步。
xx月13日22:10,系統進入第二個停服周期,進行兩端數據的一致性校驗,并在次日00:30啟動KES承載的國產化平臺應用,歷時共計2小時左右。
在系統升級過程中,金倉實施團隊分兩階段共占用5小時左右的停服時間,保證業務正常響應的同時,高效完成了重載系統的“換橋”任務。
回退 | 升級不拆橋,保障多一道
國產基礎軟硬件在行業應用的深水區實踐確實還在拓展階段,用戶對全國產平臺的穩定性多少有所顧慮。據項目負責人披露,在做好常規的數據備份及高可用保障的同時,用戶提出系統回退需求,以保障當全國產環境出現災難性故障時,仍可借助原系統提供業務的連續性支撐。
雙軌運行方案
借助異構數據庫同步工具KFS,金倉提供完善的雙軌運行方案,以滿足系統回退需求。
階段一:結合柔性遷移過程,在解決存量數據遷移及增量數據同步后,保持KFS從原系統數據庫到KES的鏈路暢通。此時系統運行仍基于原數據庫。
階段二:當KES作為生產系統承載庫后,通過KFS獨有能力,通過命令進行數據同步方向的切換,即KES向原數據庫反向同步數據。此時原數據庫作為備份節點,與KES保持數據實時一致,隨時可承接應用負載。
在整體方案確定后,金倉實施團隊對每個階段的工作顆粒度都要細化到最優:
歷經3輪測試,該方案均保證了KES與原數據庫的高效數據同步,延時穩定控制在5秒以內,系統整體具備回退條件。
結語
通過雙方多次的方案細化迭代及緊張的項目實施,某運營商營銷類業務系統于2021年底順利上線,成功實現關鍵系統國產化升級,并順利完成了春節及冬奧期間的重點保障服務,確保了系統的穩定運行,有效降低了數據庫管控風險,穩定支撐運營商在全國31個省的線上營銷賦能業務。
人大金倉作為專業的數據庫管理系統產品及解決方案提供商,秉承“以客戶為中心”的服務理念,未來將繼續和千萬國產廠商一起,打造穩定、安全、智能的數字化環境,為客戶搭建通往數字化高速公路的橋梁。