Kubernetes 節點交換空間測試發現工作負載密度有所提升
使用高速固態儲存的測試發現,密度提升最高可達三倍,且延遲成本通常很小甚至沒有。
AI 插圖對使用高速 NVMe 固態硬碟支援交換空間(swap)的 Kubernetes 節點進行的測試發現,工作負載密度最高可提升三倍,且延遲成本通常很小甚至沒有。在啟用交換空間的情況下執行節點的支援已在 v1.34 中達到正式發行(General Availability)階段。
該基準測試研究了三類工作負載:CI/CD 核心建置、沙盒化無頭瀏覽器和隔離的 Python 執行環境。作者使用交換空間將閒置記憶體移出 RAM,使節點能夠容納更多 Pod。所報告的提升僅針對這些測試,並不能證明所有工作負載都會獲得同樣的改善。
記憶體可能在處理能力耗盡之前就成為限制性資源。代理式 AI 工作負載加劇了這種壓力,因為啟動它們和執行不受信任的程式碼可能需要佔用大量記憶體。隨後它們可能在等待下一個提示時持續駐留,即使在閒置期間也會消耗記憶體。
測試中描述的方法透過將這些閒置記憶體放到高速儲存上來解決問題。作者發現,這可以增加單一節點所支援的 Pod 數量,具體效益大小取決於所測試的工作負載。