Reflection AI, 코딩 모델 빔 공개
최근 30일 조회수 — 좋아요 —핵심 요약
장기 코딩과 도구 사용에 특화된 오픈웨이트 모델 빔이 AWS 세이지메이커 점프스타트에 출시됐다.
Reflection AI가 장기 작업과 도구 사용에 초점을 맞춘 에이전트 코딩 모델 빔(Beam)을 오픈웨이트로 공개했다. 개발자는 모델 가중치를 직접 배포하고 실행 환경과 사용자 지정 방식을 통제할 수 있다. AWS는 출시 시점부터 미국 동부 버지니아 북부와 오하이오 리전의 아마존 세이지메이커 점프스타트(Amazon SageMaker JumpStart)에서 빔을 제공한다.1
빔은 소프트웨어 문제 해결, 코드 수정, 도구 호출, 중간 결과 해석, 여러 단계로 이어지는 작업 수행을 겨냥한 희소 전문가 혼합(Sparse Mixture-of-Experts) 모델이다. 전체 매개변수는 5,010억 개지만 토큰을 처리할 때 활성화되는 매개변수는 230억 개다. 전체 매개변수 규모는 체크포인트 저장 공간과 가중치 메모리, 샤딩·병렬화 구성에 영향을 주고, 활성 매개변수 수는 토큰당 연산량을 좌우한다. Reflection AI가 밝힌 유효 컨텍스트 길이는 100만 토큰이다.
가중치는 허깅페이스(Hugging Face)를 통해 아파치 2.0 라이선스로 배포된다. 빔 1.0 체크포인트는 BF16, FP8, NVFP4 세 형식으로 제공되며, 형식마다 메모리 사용량과 호환 하드웨어가 다르다. 다만 AWS 자료에는 각 형식의 실제 메모리 요구량이나 성능 비교 결과가 제시되지 않았다.
AWS의 배포 방식은 관리 편의성과 제어 범위에 따라 갈린다. 쿠버네티스를 직접 운영하지 않으려면 모델 패키지와 컨테이너, 호출 API를 묶어 제공하는 점프스타트 실시간 엔드포인트를 쓸 수 있다. 분산 GPU 인프라를 세밀하게 다루려면 아마존 EKS 기반 세이지메이커 하이퍼팟 인퍼런스(SageMaker HyperPod Inference)를 선택하고, AWS 관리형 컨테이너나 SGLang, vLLM으로 서빙할 수 있다. 후자의 경우 서빙 이미지와 런타임 인수, 양자화, 분산 실행, 캐싱·라우팅·확장 정책까지 조정할 수 있다.
오픈웨이트 공개의 의미는 장기 코딩 작업을 처리하는 모델을 자체 환경에서 검토하고 수정할 여지가 생겼다는 데 있다. 그러나 실제 배포에는 체크포인트 저장 공간뿐 아니라 KV 캐시, 컨텍스트 길이, 배치 크기, 런타임 오버헤드와 GPU 용량을 함께 계산해야 한다. AWS 계정과 관련 권한, 모델 약관 동의, Python 3.11 이상도 필요하다.1
Footnotes
읽기 목록은 이 브라우저에 저장됩니다.
출처
- Introducing Reflection Beam: an open-weight model for agentic coding on AWS | Amazon Web Services — AWS Machine Learning Blog
이 글은 위 출처를 근거로 자동 생성된 뒤 발행됐습니다. 원문을 함께 확인해 주세요. 교차 보도 없이 단독 출처로 작성됐습니다.