“ 終端無休止的更新迭代,是軟件對計算資源的需求激增。”
技術作者|王廣芳
內容編輯|IMMENSE
這是個萬物更迭速度驚人的時代。
世界多元延展,大眾需求激增,而滿足需求,終端設備的死亡迭代隨之瘋狂加速。
于是,手機、電腦被無休止的更新換代,究其背后,本質是消費終端軟件對計算資源的需求激增所致。
情況同樣映射在企業。
數字化時代的今天,IT終端是企業的重要生產力。據了解,PC終端設備的使用壽命是3-6年,隨著使用年限的增加,運行速度慢、性能不足、故障率提高等問題層出不窮。
企業如果選擇IT設施更替,會周期性產生高昂成本,由此產生的存量IT設備也逐漸成為管理、數據、應用、安全的孤島,造成極大的運維壓力和成本。
在此之上,5G時代讓各行業探索的新場景和新應用不斷涌現,軟件功能的不斷豐富、智能操作系統的不斷升級,對場景中終端設備的要求也越來越高,這也是對計算資源需求的與日俱增。
于是,騰挪計算資源,將終端設備“就近上云”,可能是最好的解法。即終端云化。
01 終端云化:打破硬件的桎梏
近幾年,“終端云化”技術開始規?;涞?,其核心思想是“計算卸載”,即將智能終端的計算任務卸載到邊緣云虛擬終端處理,解決終端設備在算力和存儲等方面的不足。
比如最近火爆的云游戲,使得在低配的手機、PC端甚至智能電視上玩大型高畫質游戲成為可能。
為了更好的理解終端云化的優勢和特點,下面將以阿里云視圖計算產品VEC(Visual Edge Computing)為例進行說明。
視圖計算VEC重點服務的是視頻圖像設備(消費電子、攝像頭、車載終端等)上云場景,通過設備終端的標準協議接入,提供設備管理、視圖處理、視圖存儲等服務。
“終端云化”技術打破了硬件的桎梏,其優勢可總結為以下兩點:
一是功能演進與終端設備解耦。
功能和性能的演進不再依賴終端設備的配置和升級,面對各種周期長、一致性差、兼容性等問題,只需要云端服務統一升級即可。
比如:VEC服務的普通攝像頭需要增加AI識別功能,不需花費巨資更換高價的智能攝像頭,只需將接入到云端的視頻流對接AI識別服務,簡單配置參數即可。
二是高效的規?;芾怼?/strong>
當終端設備規模到達一定規模后,終端本身的管理以及終端上生產數據的管理就是一個很大的挑戰了,尤其是VEC服務的視圖類設備,會產生大量的視頻或圖片數據,在云端基于平臺進行設備管理、流處理、流存儲的能力是設備端無法企及的。
視圖計算VEC作為終端云化的典型場景,重點構建了視圖設備一鍵上云標準化協議、截圖/錄制/轉碼/混流等流媒體處理、視圖AI、視圖存儲等核心技術能力,但最核心的競爭力來自基于邊緣云打造的架構優勢。
02 “終端云化”為何依賴邊緣云?
邊緣云節點無處不在,離用戶更近、數據處理延時低,可帶來更好的體驗。
邊緣云能為”終端云化“帶來什么?
仍然拿視圖計算VEC來進行說明,常規的VEC系統設計可以是完全的中心架構,構建起來比較簡單,如下圖所示。
可以看到,VEC系統應用統一部署在一個Region,面向全網所有的視圖設備提供GB協議和自研協議的接入服務,并支持接入設備以RTP或RTMP協議推流,進行切片錄制、截圖、轉碼、AI分析、存儲、實時播放、錄像回看等服務。
但是VEC產品服務了海量的視圖設備,視圖流數據需要持續上傳到平臺進行處理,如果全部數據都到中心統一處理,成本是非常高的。
這類比較典型的終端云化大流量場景,如果能夠將流量收斂到邊緣進行處理,將明顯降低流量成本,提升產品的競爭力。
同時,如果全網設備統一推流到中心,并不能確保所有設備推流的低延時體驗,邊緣就近接流是非常有必要的。
此時,邊緣架構的兩大優勢就顯現出來了。
一是就近接入,接流網關可以基于邊緣節點進行廣泛覆蓋,支持設備的就近低延時接入;
二是更低成本,設備的視圖流數據可以在邊緣完成處理和存儲,優化流量和存儲成本。
03 完整的邊緣架構系統是如何構建的?
接下來,如何設計業務系統的邊緣架構?
中心架構與邊緣架構的主要差異是,從“中心-終端”兩層架構到“中心-邊緣-終端”三層架構的演進。邊緣云作為中間層,整體思路上將重點考慮終端能力的上移和中心能力的下沉。
終端能力上移可以降低終端硬件要求以及軟件復雜度,對于海量終端的場景,在終端成本優化和易運維方面會有明顯收益,這也是VEC在視圖設備上云場景提供的價值邏輯。
中心能力下沉則主要評估業務系統中邊緣和中心有成本差異的模塊,比如VEC的視圖流在邊緣接入后可以在邊緣完成處理和存儲,后續的視圖數據讀取也可以直接從邊緣訪問,這樣就大幅收斂了邊緣回到中心的流量,帶寬成本得到優化。
對VEC系統中心模塊和邊緣模塊的評估,可以提煉為以下幾類情況:
- 全局統一管控類的模塊需要部署在中心,比如設備管理、權限管理等;
- 中心和邊緣部署差異不明顯,可根據場景靈活選擇,或者優先中心部署,運維相對更簡單,比如信令網關等;
- 針對邊緣下沉場景需要在中心增加一些模塊,比如節點管理、針對邊緣多節點的調度等;
- 服務型模塊(視圖流處理和存儲相關模塊)盡量下沉邊緣,通過調度進行區域分布式服務,比如接流網關、流處理、視圖存儲等。
最終的VEC邊緣架構如下圖所示。
其中ENS是阿里云的邊緣云產品-邊緣節點服務(Edge Node Service),提供了虛機、容器等多種形態實例,塊存儲、對象存儲等多種存儲服務,以及LB、NAT等多種網絡組件,在全國完成重點城市的全域覆蓋。
VEC基于ENS進行邊緣架構構建,明顯降低了技術方案落地的研發成本,同時在邊緣基礎設施層的穩定性方面產品級的保障,可以更專注業務系統自身的技術迭代。
針對邊緣架構,系統要建設一些關鍵能力,更好地發揮邊緣架構的優勢,主要包括:
資源與業務調度能力
資源由中心統一模型升級為邊緣分布式模型,配套的資源和業務調度成為系統核心能力,包括訪問和流量就近調度,以及節點故障或水位較高時的可用性調度等;
云邊協同管控能力
中心管控和邊緣管控一起形成閉環,比如用戶通過中心OpenAPI編排一個處理流程,首先切片錄制,存儲為固定時長的文件,然后讀取文件進行AI識別,就涉及到中心解析模板->多模塊參數下發邊緣->邊緣模塊按流程和參數處理->識別的結構化信息回傳中心->中心信息處理等云邊交互管控的復雜鏈路;
云邊穩定且安全的通信能力
中心與邊緣基于互聯網的遠程通信RPC,需重點考慮通信安全和通信可靠性,云邊協同管控依賴云邊穩定且安全的通信能力;
邊緣自治管控能力
邊緣需要具備一定的自治管控能力,以應對高性能、高可用、云邊一致性等場景的要求,比如減少邊緣處理邏輯中對中心的依賴,以及當云邊通信短時不可用時能夠持續服務并在恢復后進行狀態同步等。
構建一套完整的邊緣架構系統,還需要什么?配套的系統能力。
主要包括:
邊緣節點高效部署
邊緣節點部署包括節點資源的申請和初始化,以及邊緣模塊應用的部署和發布。邊緣架構需要大量的邊緣節點進行服務,節點的部署和納管必須標準且高效,應用容器化部署是一個不錯的選擇。
配置管理及配置動態下發
業務調度和云邊協同管控等核心能力都有基于策略和配置進行動態管理的需求,實現靈活的場景適配,以及全網資源更高效的使用。
遠程運維系統
遠程運維能力包括邊緣狀態和日志的采集上報、監控告警、遠程診斷和處置等,互聯網的不穩定增加了遠程運維的挑戰,運維動作的鏈路長,故障因素多,需要針對核心運維場景做全鏈路能力建設。
VEC的支撐系統大圖如下,其中應用部署發布、服務發現治理、集群擴縮容等關鍵能力是基于ENS容器平臺構建的。
“ 邊緣云的發展吸引了越來越多技術人的關注,在關注、參與邊緣云自身能力演進的同時,相信更多的技術人更有機會做的事情,是推動自己的業務架構向邊緣架構演進。 ”
視圖計算的架構可以面向更多終端云化的場景進行擴展,演進成為更加通用的終端云化平臺。
在平臺技術方面,可以將目前自研的ODCAP(Open Device Cloud Access Protocol)開放設備上云協議用于更廣泛的終端云化接入和管理,同時提供可視化的視圖流處理編排引擎,方便終端數據的復雜處理流程定義。
在邊緣架構演進方面,視圖數據被存儲到了數量眾多的邊緣節點中,數據操作都需要先定位節點再進行讀寫,復雜度較高。
技術上應該考慮將多個物理節點的存儲抽象成一個邏輯存儲,并封裝一套標準的邏輯對象存儲接口,這套接口可以和中心的對象存儲接口在使用體驗上完全一致。這個能力也已經在阿里云邊緣云ENS上孵化完成,開始對外產品化服務。
隨著邊緣場景的不斷豐富,邊緣云才能獲得更好的發展。而邊緣云的使命,就是支持各類邊緣場景和架構更好、更快、更穩的構建和發展。
總之,真正好的技術,是可以打破桎梏,彌合鴻溝的。