AWS 람다 관리형 인스턴스, GPU 지원

2분 AWSLambdaGPU서버리스
최근 30일 조회수 — 좋아요 —

핵심 요약

AWS가 LMI에 EC2 G 계열 GPU를 추가해 이벤트 기반 추론·미디어 처리를 서버리스로 지원한다.

AWS가 람다 관리형 인스턴스(Lambda Managed Instances·LMI)에서 실행하는 이벤트 함수에 GPU 지원을 추가했다. 지원 대상은 아마존 EC2 G 계열 GPU 인스턴스다. 머신러닝 추론부터 미디어 처리, 3D 렌더링, 과학 계산까지 이벤트 기반 GPU 작업을 기존 람다 함수처럼 배포하고 확장할 수 있다는 게 AWS의 설명이다.1

GPU 가속 함수는 OCI(Open Container Initiative) 컨테이너 이미지로 배포한다. 개발자가 이미지를 만들어 함수를 연결하면 람다가 인스턴스 프로비저닝과 확장, AWS 이벤트 연동을 맡는다. GPU 드라이버와 CUDA 버전, 아마존 머신 이미지(AMI)를 맞추거나 클러스터와 디바이스 플러그인을 직접 운영할 필요가 없다. 과금과 보안 방식도 다른 람다 이벤트 함수와 같다.

AWS가 내세우는 또 다른 장점은 GPU 이용률이다. 작은 추론 작업 하나만 실행하면 GPU 상당 부분이 쉬는 동안에도 인스턴스 전체 비용을 내야 한다. LMI는 여러 함수를 인스턴스에 통합하고 동시 요청을 처리해 GPU가 유휴 상태로 남는 시간을 줄인다. 다만 AWS는 이 기능을 학습보다 추론에 맞췄다고 밝혔다. 아마존 베드록(Amazon Bedrock)이 제공하는 대규모 기반 모델보다는 애플리케이션에 포함된 사용자 정의 모델이 주된 대상이다.

활용 범위에는 컴퓨터 비전, 음성·문자 변환, 추천, 문서 분석, 중소형 언어 모델 추론이 포함된다. 파일 업로드로 시작하는 영상 변환, 확산 모델과 텍스트 투 비디오 생성, 시뮬레이션과 위험 분석도 실행할 수 있다. 에이전트형 작업에서는 CPU 기반 람다 마이크로VM(MicroVM)이 도구 사용 로직을 처리하고 GPU 함수가 추론을 맡는 식으로 역할을 나눌 수 있다.

사양은 컨테이너 이미지 최대 32GB(파일당 10GB), 임시 저장공간 최대 32GB, 메모리 2,04832,768MB, 가속기 메모리 348GB다. 비동기 호출과 이벤트 소스 매핑 호출은 최대 90분까지 실행할 수 있어 영상 변환이나 여러 단계의 추론처럼 긴 작업도 수용한다. 다만 이번 발표는 GPU 학습용 서비스가 아니라 이벤트에 반응하는 추론·처리 단계를 서버리스 방식으로 운영하는 데 초점이 있다.

Footnotes

  1. AWS Blog, “AWS Lambda now supports GPU instances for Event Functions on Lambda Managed Instances” ↩

읽기 목록은 이 브라우저에 저장됩니다.

출처

  1. AWS Lambda now supports GPU instances for Event Functions on Lambda Managed Instances | Amazon Web Services — AWS Blog

이 글은 위 출처를 근거로 자동 생성된 뒤 발행됐습니다. 원문을 함께 확인해 주세요. 교차 보도 없이 단독 출처로 작성됐습니다.