엔비디아, GPU 클러스터용 DSX OS 공개

2분 엔비디아DSX OS쿠버네티스GPU 클러스터
최근 30일 조회수 — 좋아요 —

핵심 요약

엔비디아가 쿠버네티스 GPU 클러스터의 구성·검증·장애 대응을 지원하는 오픈소스 DSX OS를 공개했다.

엔비디아, GPU 클러스터용 DSX OS 공개 — 기사 주제를 표현한 AI 생성 개념 삽화
AI 생성 개념 삽화 · 실제 사건을 촬영한 사진이 아닙니다.

엔비디아(NVIDIA)가 쿠버네티스 기반 GPU 클러스터의 구성부터 운영 중 장애 대응까지 한 흐름으로 관리하는 오픈소스 소프트웨어 계층 ‘DSX OS’를 공개했다. DSX OS는 엔비디아 DSX AI 팩토리 플랫폼의 일부로, AI 클러스터 런타임(AI Cluster Runtime·AICR), 클러스터 레디니스 엔진(NVIDIA Cluster Readiness Engine·NVCRE), NV센티널(NVSentinel) 등 세 프로젝트로 구성된다. 모두 아파치 2.0 라이선스로 배포되며 외부 기여를 받는다.1

DSX OS가 겨냥한 문제는 일반적인 가동률 지표만으로 찾기 어려운 성능 저하다. 분산 학습에서는 GPU 한 개의 성능이 떨어져도 전체 작업이 느려질 수 있지만, 해당 노드는 기본 상태 검사를 통과하고 사용률도 정상으로 표시될 수 있다. 엔비디아는 단순 사용률보다 실제로 완료한 작업량을 뜻하는 ‘굿풋(goodput)’이 클러스터 효율을 판단하는 데 더 유용하다고 설명한다. 처음 인수할 때 검증을 마친 클러스터라도 노드 교체, 드라이버 패치, 용량 증설을 거치면 당시의 인증 결과가 현재 상태를 보장하지 못한다는 지적이다.1

세 도구는 이 수명주기를 나눠 맡는다. AICR은 네트워크·스토리지·드라이버 등의 버전을 고정한 구성 레시피를 만들고, 기존 배포 도구가 적용할 번들로 변환한다. 선언형 템플릿을 사용해 수동 변경에 따른 구성 편차를 찾고, 수리 뒤에도 노드 구성을 일관되게 맞추는 방식이다. 예시 레시피에는 dynamo-platform 버전 1.4.2와 gpu-operator, kai-scheduler 같은 선행 구성 요소가 명시된다.1

구성 뒤에는 NVCRE가 실제 AI 워크로드와 진단 도구로 GPU·네트워크·스토리지를 시험하고, 인증 결과를 기록하며 결함 노드 식별을 돕는다. 운영 단계의 NV센티널은 GPU와 노드, 네트워크 상태를 쿠버네티스 노드 조건으로 게시한다. 설정에 따라 비정상 노드에 코든(cordon)이나 테인트(taint)를 적용하고 워크로드를 비운 뒤 장애 복구를 수행하며, 서비스 복귀 전 NVCRE 재검증도 요청할 수 있다.1

다만 DSX OS가 기존 배포 체계를 대신하는 것은 아니다. AICR은 구성을 생성하고 검증하지만 실제 적용과 상태 조정은 사용 중인 배포 도구가 담당한다. 엔비디아가 제시한 절차 역시 필요한 CLI, 컨트롤러, 의존성, NVCRE 테스트 제공자가 갖춰진 쿠버네티스 GPU 클러스터를 전제로 한다.1

Footnotes

  1. NVIDIA Technical Blog, “Configure, Certify, and Operate Kubernetes GPU Clusters with NVIDIA DSX OS” ↩ ↩2 ↩3 ↩4 ↩5

읽기 목록은 이 브라우저에 저장됩니다.

출처

  1. Configure, Certify, and Operate Kubernetes GPU Clusters with NVIDIA DSX OS | NVIDIA Technical Blog — NVIDIA Technical Blog

이 글은 위 출처를 근거로 자동 생성된 뒤 발행됐습니다. 원문을 함께 확인해 주세요. 교차 보도 없이 단독 출처로 작성됐습니다.