KubeRay, CNCF에 기증

ai.euno.news 자동 뉴스 요약

분산 인공지능(AI) 워크로드를 쿠버네티스에서 운영하는 오픈소스 도구 KubeRay가 클라우드 네이티브 컴퓨팅 재단(CNCF)에 기증된다. CNCF는 11월 10일 KubeRay 합류를 발표하며, PyTorch·AI 모델·Ray·Kubernetes로 구성된 ‘PARK 스택’의 핵심 구성 요소가 모두 리눅스 재단 산하 거버넌스에 놓이게 됐다고 밝혔다.¹

KubeRay는 Python 중심의 분산 컴퓨팅 프레임워크 Ray와 쿠버네티스를 잇는 오퍼레이터다. PyTorch와 Ray는 PyTorch 재단, Kubernetes는 CNCF에 속해 있었지만 KubeRay는 그동안 PARK 스택에서 빠진 연결 고리였다. 이번 기증으로 PARK 스택 전체가 리눅스 재단 산하 거버넌스에 놓이면서 중립성과 개방성에 대한 신뢰를 확보하게 됐다.

KubeRay는 세 가지 쿠버네티스 사용자 정의 리소스(CRD)로 Ray 워크로드를 관리한다. RayCluster는 헤드·워커 파드 생성부터 상태 확인, 글로벌 제어 서비스(GCS) 장애 대응, 동적 오토스케일링까지 클러스터의 전체 생명주기를 맡는다. RayJob은 배치 처리와 분산 학습, 강화학습 작업을 위해 임시 클러스터를 만들고 작업이 끝나면 이를 제거해 컴퓨팅 자원과 가속기 활용도를 높인다. RayService는 Ray Serve 기반의 장기 실행 온라인 추론을 겨냥하며, 무중단 순차 업그레이드와 자동 장애조치, 트래픽 전환을 지원한다.

기존 클라우드 네이티브 도구와의 결합도 채택을 뒷받침했다. Ray는 메트릭 파이프라인에 오픈텔레메트리(OpenTelemetry)를 사용하고 프로메테우스(Prometheus) 형식으로 지표를 노출한다. 플루언트 비트(Fluent Bit)를 붙이면 여러 워커와 작업의 로그를 모을 수 있다. GPU·TPU처럼 부족한 자원을 배분할 때는 Kueue, Volcano, KAI와 연동해 RayJob과 RayCluster에 작업 대기열과 갱 스케줄링을 적용한다.

실제 이용 사례로 CNCF는 스포티파이를 들었다. 스포티파이는 구글 쿠버네티스 엔진(GKE)에서 Ray를 실행하고, 내부 머신러닝 플랫폼 ‘Hendrix’의 모델 학습과 미세조정을 KubeRay로 확장하고 있다. 다만 CNCF의 이번 글은 기증 발표이므로, 도입 효과나 운영 안정성에 관한 설명 역시 재단과 이용자 측 사례에 근거한 주장이라는 점은 구분해서 볼 필요가 있다.

읽기 목록은 이 브라우저에 저장됩니다.