Kubernetes-Node-Swap-Tests zeigen Zugewinne bei der Workload-Dichte
Tests mit schnellem Solid-State-Speicher ergaben Dichtegewinne um bis zu das Dreifache, oft mit geringen oder gar keinen Latenzeinbußen.
KI-IllustrationTests von Kubernetes-Nodes mit Swap auf schnellen NVMe-Solid-State-Laufwerken ergaben Zugewinne bei der Workload-Dichte von bis zu dem Dreifachen, oft mit geringen oder gar keinen Latenzeinbußen. Die Unterstützung für den Betrieb von Nodes mit aktiviertem Swap erreichte in v1.34 die General Availability.
Die Benchmark-Arbeit untersuchte drei Arten von Workloads: CI/CD-Kernel-Builds, Headless-Browser in Sandboxes und isolierte Python-Laufzeitumgebungen. Die Autoren nutzten Swap, um inaktiven Speicher aus dem RAM auszulagern, sodass ein Node mehr Pods aufnehmen kann. Die berichteten Zugewinne beschreiben diese Tests und belegen nicht dieselbe Verbesserung für jede Workload.
Der Arbeitsspeicher kann zur limitierenden Ressource werden, bevor die Rechenkapazität erschöpft ist. Agentische KI-Workloads verstärken diesen Druck, da ihr Start und die Ausführung nicht vertrauenswürdigen Codes einen großen Speicherbedarf erfordern können. Anschließend können sie im Speicher verbleiben, während sie auf den nächsten Prompt warten, und belegen so auch in Leerlaufphasen Arbeitsspeicher.
Der in den Tests beschriebene Ansatz adressiert diesen ungenutzten Speicher, indem er ihn auf schnellen Speicher auslagert. Die Autoren stellten fest, dass dies die Anzahl der von einem Node unterstützten Pods erhöhen könnte, wobei die Größe des Nutzens von der getesteten Workload abhängt.