在今天發布的博文中，Meta 工程團隊展示了名為透明內存分流( Transparent Memory Offloading ，簡稱 TMO)的Linux 內核技術，目前已經在 Facebook/Meta服務器中投入使用。在 Meta 的數據中心內，這種 TMO功能在其數百萬臺服務器中為每臺服務器節省了 20~32% 的內存。

對于 TMO 技術，Meta 官方對其的描述為：

一種新的 Linux 內核機制，可實時測量由于CPU、內存和 I/O 資源短缺而導致的工作丟失。在此信息的指導下，在沒有任何應用知識的情況下，TMO 會自動調整內存量以卸載到異構設備，例如壓縮內存或SSD。它根據設備的性能特征和應用程序對較慢內存訪問的敏感性來執行此操作。 TMO 不僅從應用程序容器而且從提供基礎設施級功能的 Sidecar 容器中全面識別卸載機會。TMO 已經在生產環境中運行了一年多，在我們龐大的數據中心機群中的數百萬臺服務器上節省了 20% 到 32% 的總內存。我們已經成功地將 TMO 的操作系統組件上傳到 Linux 內核中。

Linux 內核方面的工作包括內核中的壓力失速信息 (PSI)，然后在用戶空間中，他們將“Senpai”作為用戶空間代理。

分流通常是在 NVMe 固態驅動器上完成的，從每 GB 費用來看它比服務器內存更便宜。即將推出的具有 Compute Express Link (CXL) 的服務器平臺在使用透明內存卸載方面也具有很大的潛力。

關鍵詞： 透明內存分流 數百萬臺服務器 數據中心 操作系統組件