AWS, EKS 가속기 통합 관리 기능 공개

ai.euno.news 자동 뉴스 요약

AWS가 쿠버네티스 환경의 GPU와 자체 AI 가속기 사용률, 장애, 비용 낭비를 한 화면에서 추적하는 아마존 클라우드워치 가속 컴퓨트 인사이트(Amazon CloudWatch Accelerated Compute Insights)를 공개했다. KubeCon North America 2026에서 발표한 이 기능은 아마존 엘라스틱 쿠버네티스 서비스(Amazon EKS)의 가속기 텔레메트리와 워크로드 경계, AWS 가격 정보를 연결한다.¹

가속기 비용은 인프라 예산에서 큰 비중을 차지하지만, 여러 팀이 클러스터를 공유하면 누가 어떤 장치를 쓰는지, 추론 작업이 토큰을 효율적으로 생성하는지 파악하기 어렵다. 더뉴스택에 따르면 단일 학습 클러스터가 며칠 동안 가동되며 수백만 달러의 비용을 낼 수도 있다. 장치 이상이나 발열에 따른 성능 저하도 작업이 중단되거나 청구서가 나온 뒤에야 발견하는 경우가 있다. 문제를 특정 GPU로 좁히지 못하면 GPU 한 개의 장애를 처리하려고 정상 장치 7개가 포함된 인스턴스 전체를 재시작해야 한다.¹

가속 컴퓨트 인사이트는 각 가속기의 사용 현황을 보여주고 장애와 병목을 실시간으로 감지하며, 문제별 비용 영향을 추산해 대응 조치와 연결한다. EKS에서는 엔비디아(NVIDIA) GPU와 AWS 트레이니엄(Trainium), AWS 인퍼런시아(Inferentia)를 지원한다. 엔비디아 GPU와 인퍼런시아의 지표는 공통 스키마로 정규화돼 Accelerator Health 화면에 표시되므로 혼합 구성도 한곳에서 관리할 수 있다.¹

여기에 파드, 네임스페이스, 노드, 노드 그룹과 팀·애플리케이션 같은 사용자 정의 레이블을 결합해 팀별·워크로드별 사용률을 드러낸다. 멀티 인스턴스 GPU(MIG)로 분할한 장치도 자동 감지해 각 MIG 인스턴스의 사용률과 메모리, 이를 쓰는 파드를 표시한다. 쿠버네티스 동적 자원 할당(DRA)과 타임 슬라이싱 역시 장치 레이블을 읽어 별도 설정 없이 식별한다.¹

비용 분석은 작업에 비해 지나치게 강력한 인스턴스를 쓴 경우와, 해당 워크로드의 과거 기준보다 텐서 코어 활용도(MFU)가 낮은 학습 작업 등을 회수 가능한 낭비로 분류한다. 다만 공개된 자료는 기능 설명에 집중했으며, 비용 추산의 정확도나 실제 절감률을 검증할 벤치마크는 제시하지 않았다.

읽기 목록은 이 브라우저에 저장됩니다.