在今天發(fā)布的博文中，meta 工程團(tuán)隊(duì)展示了名為透明內(nèi)存分流(Transparent Memory Offloading，簡稱 TMO)的 Linux 內(nèi)核技術(shù)，目前已經(jīng)在 Facebook/meta 服務(wù)器中投入使用。在 meta 的數(shù)據(jù)中心內(nèi)，這種 TMO 功能在其數(shù)百萬臺(tái)服務(wù)器中為每臺(tái)服務(wù)器節(jié)省了 20~32% 的內(nèi)存。
對于 TMO 技術(shù)，meta 官方對其的描述為：
一種新的 Linux 內(nèi)核機(jī)制，可實(shí)時(shí)測量由于 CPU、內(nèi)存和 I/O 資源短缺而導(dǎo)致的工作丟失。在此信息的指導(dǎo)下，在沒有任何應(yīng)用知識(shí)的情況下，TMO 會(huì)自動(dòng)調(diào)整內(nèi)存量以卸載到異構(gòu)設(shè)備，例如壓縮內(nèi)存或 SSD。它根據(jù)設(shè)備的性能特征和應(yīng)用程序?qū)^慢內(nèi)存訪問的敏感性來執(zhí)行此操作。 TMO 不僅從應(yīng)用程序容器而且從提供基礎(chǔ)設(shè)施級功能的 Sidecar 容器中全面識(shí)別卸載機(jī)會(huì)。
TMO 已經(jīng)在生產(chǎn)環(huán)境中運(yùn)行了一年多，在我們龐大的數(shù)據(jù)中心機(jī)群中的數(shù)百萬臺(tái)服務(wù)器上節(jié)省了 20% 到 32% 的總內(nèi)存。我們已經(jīng)成功地將 TMO 的操作系統(tǒng)組件上傳到 Linux 內(nèi)核中。
Linux 內(nèi)核方面的工作包括內(nèi)核中的壓力失速信息 (PSI)，然后在用戶空間中，他們將“Senpai”作為用戶空間代理。
分流通常是在 NVMe 固態(tài)驅(qū)動(dòng)器上完成的，從每 GB 費(fèi)用來看它比服務(wù)器內(nèi)存更便宜。即將推出的具有 Compute Express link (CXL) 的服務(wù)器平臺(tái)在使用透明內(nèi)存卸載方面也具有很大的潛力。
