Kubernetes 노드 스왑 테스트에서 워크로드 밀도 향상 확인
빠른 솔리드 스테이트 스토리지를 사용한 테스트에서 최대 세 배의 밀도 향상이 확인되었으며, 지연 시간 증가는 거의 없거나 전혀 없는 경우가 많았습니다.
AI 일러스트빠른 NVMe 솔리드 스테이트 드라이브를 기반으로 한 스왑을 사용하는 Kubernetes 노드를 테스트한 결과, 워크로드 밀도가 최대 세 배까지 향상되었으며 지연 시간 증가는 거의 없거나 전혀 없는 경우가 많았습니다. 스왑을 활성화한 상태로 노드를 실행하는 기능에 대한 지원은 v1.34에서 정식 출시(GA)에 도달했습니다.
이 벤치마크 작업은 CI/CD 커널 빌드, 샌드박스 처리된 헤드리스 브라우저, 격리된 Python 런타임이라는 세 가지 유형의 워크로드를 살펴보았습니다. 저자들은 스왑을 사용해 유휴 상태의 메모리를 RAM 밖으로 옮겨 하나의 노드가 더 많은 파드를 수용할 수 있도록 했습니다. 보고된 향상은 이 테스트에 해당하며, 모든 워크로드에서 동일한 개선이 나타난다는 것을 입증하는 것은 아닙니다.
처리 용량이 소진되기 전에 메모리가 제한 자원이 될 수 있습니다. 에이전틱 AI 워크로드는 이러한 부담을 더합니다. 시작하거나 신뢰할 수 없는 코드를 실행하는 데 큰 메모리 공간이 필요할 수 있기 때문입니다. 또한 다음 프롬프트를 기다리는 동안에도 상주하면서 유휴 시간에도 메모리를 소비할 수 있습니다.
테스트에서 설명한 접근 방식은 이러한 유휴 메모리를 고속 스토리지에 배치해 해결합니다. 저자들은 이를 통해 노드가 지원하는 파드 수를 늘릴 수 있음을 확인했으며, 그 효과의 크기는 테스트한 워크로드에 따라 달랐습니다.