Pengujian swap node Kubernetes menemukan peningkatan kepadatan beban kerja
Pengujian dengan penyimpanan solid-state cepat menemukan peningkatan kepadatan hingga tiga kali lipat, sering kali dengan sedikit atau tanpa tambahan latensi.
Ilustrasi AIPengujian node Kubernetes yang menggunakan swap berbasis drive solid state NVMe cepat menemukan peningkatan kepadatan beban kerja hingga tiga kali lipat, sering kali dengan sedikit atau tanpa tambahan latensi. Dukungan untuk menjalankan node dengan swap diaktifkan mencapai General Availability di v1.34.
Pekerjaan tolok ukur ini meneliti tiga jenis beban kerja: build kernel CI/CD, browser headless dalam sandbox, dan runtime Python terisolasi. Para penulisnya menggunakan swap untuk memindahkan memori tidak aktif keluar dari RAM, sehingga sebuah node dapat menampung lebih banyak pod. Peningkatan yang dilaporkan menggambarkan pengujian tersebut dan tidak membuktikan peningkatan yang sama untuk setiap beban kerja.
Memori dapat menjadi sumber daya pembatas sebelum kapasitas pemrosesan habis. Beban kerja AI agentik menambah tekanan itu karena menjalankannya dan mengeksekusi kode tidak tepercaya dapat membutuhkan jejak memori yang besar. Setelah itu, beban kerja tersebut dapat tetap berada di memori sambil menunggu prompt berikutnya, sehingga menghabiskan memori bahkan saat tidak aktif.
Pendekatan yang dijelaskan dalam pengujian ini mengatasi memori tidak aktif tersebut dengan menempatkannya di penyimpanan cepat. Para penulis menemukan bahwa hal ini dapat meningkatkan jumlah pod yang didukung oleh sebuah node, dengan besarnya manfaat bergantung pada beban kerja yang diuji.