Тесты подкачки на узлах Kubernetes показали рост плотности рабочих нагрузок
Тесты с использованием быстрых твердотельных накопителей показали рост плотности до трёх раз, зачастую с небольшими затратами по задержке или вовсе без них.
Иллюстрация, созданная ИИТесты узлов Kubernetes, использующих подкачку на быстрых твердотельных накопителях NVMe, показали рост плотности рабочих нагрузок до трёх раз, зачастую с небольшими затратами по задержке или вовсе без них. Поддержка работы узлов с включённой подкачкой достигла стадии общей доступности (General Availability) в версии v1.34.
В ходе бенчмарка исследовались три типа рабочих нагрузок: сборки ядра в CI/CD, изолированные в песочнице браузеры без графического интерфейса и изолированные среды выполнения Python. Авторы использовали подкачку, чтобы вытеснять неактивную память из ОЗУ, что позволяло узлу размещать больше подов. Приведённые результаты относятся к этим тестам и не доказывают такого же улучшения для любой рабочей нагрузки.
Память может стать ограничивающим ресурсом раньше, чем будут исчерпаны вычислительные мощности. Рабочие нагрузки агентного ИИ усиливают это давление, поскольку для их запуска и выполнения недоверенного кода может требоваться большой объём памяти. Затем они могут оставаться в памяти в ожидании следующего запроса, потребляя её даже в периоды простоя.
Подход, описанный в тестах, решает проблему неиспользуемой памяти, размещая её на быстром накопителе. Авторы обнаружили, что это может увеличить число подов, поддерживаемых узлом, а размер выигрыша зависит от тестируемой рабочей нагрузки.