MS 파운드리 모델 라우터, 지역 28곳으로 확장·모델 풀 갱신

ai.euno.news 자동 뉴스 요약

MS 파운드리(Foundry) 모델 라우터가 서비스 지역을 East US 2와 스웨덴 센트럴 두 곳에서 글로벌 스탠다드 배포 기준 28곳, 데이터 존 배포 기준 21곳으로 확장했다. 동시에 라우터가 고르는 모델 풀도 갱신했다. InfoQ에 따르면 이번 업데이트로 Anthropic Claude Opus 4.8과 GPT-5.6 계열이 새로 추가됐고, 수명이 다한 gpt-5-chat·gpt-5.2-chat·gpt-5.3-chat·DeepSeek-V3.1은 풀에서 빠졌다.

기본 설정으로 라우터를 쓰는 팀은 재배포 없이 이 변경을 그대로 받는다. 반면 모델 서브셋을 따로 지정해둔 팀은 영향을 받지 않는다. 이 발표를 알린 산지브 자그탑(Sanjeev Jagtap)은 엔드포인트가 그대로 유지된 채 업데이트가 자동으로 반영된다는 점을 핵심으로 내세웠다. 재배포가 필요 없다는 뜻이다.

문제는 이 설명이 문서와 다르게 읽힌다는 점이다. Azure MVP이자 클라우드 엔지니어인 크리스토스 파나기오티디스(Christos Panagiotidis)는 API 안정성과 동작 안정성은 별개라고 지적했다. 풀에 새 모델이 들어오면 응답 스타일, 도구 선택 방식, 구조화 출력의 신뢰도, 지연시간 분포, 토큰 사용량, 거부 패턴, 실패 양상이 모두 바뀔 수 있다는 것이다. 그의 표현을 빌리면 "응답 스키마는 그대로여도 애플리케이션의 비즈니스 결과는 달라질 수 있다."

기본 배포 상태에서는 자그탑의 설명이 틀린 말은 아니다. 모델 라우터는 별도 설정이 없으면 지원 모델 전체를 대상으로 균형(Balanced) 모드로 동작하기 때문에, 기본값을 쓰는 워크로드는 지금까지 한 번도 검증하지 않은 후보 두 개를 새로 만나고, 그동안 라우터가 선택했을 수도 있는 후보 네 개는 사라진다. 배포도, 버전 변경도 없이 일어나는 일이다.

이 자동 반영을 피할 방법은 문서 쪽에 있다. 라우팅 대상을 특정 서브셋으로 제한해두면, 이후 풀에 추가되는 신규 모델은 명시적으로 넣기 전까지 자동 제외된다. 즉 이번 업데이트는 옵트아웃 방식이고, 그 옵트아웃 설정은 대다수 팀이 건드려본 적 없는 항목이다. 라우팅 모드는 총 세 가지로, 비용과 품질의 균형을 맞추는 기본값 균형 모드, 법률 검토·의료 요약·복잡한 추론 등 중요 작업을 겨냥한 품질(Quality) 모드, 대량 분류나 단순 질의응답을 겨냥한 비용(Cost) 모드가 있다. 모드나 서브셋 변경은 반영까지 최대 5분이 걸린다.

풀이 계속 바뀐다는 사실은 올해 초 공개된 제약 하나를 다시 조명한다. 마이크로소프트는 라우터의 실질 컨텍스트 윈도우가 풀 안에서 가장 작은 모델의 윈도우 크기로 정해진다고 밝힌 바 있다. 큰 프롬프트는 라우터가 이를 처리할 수 있는 모델을 우연히 골랐을 때만 성공한다. 풀에 작은 모델이 추가될 때마다 전체 요청의 처리 상한이 낮아지는 구조다. 라우팅 판단은 텍스트만 보므로 이미지 입력은 받아들이되 모델 선택에는 영향을 주지 않고, 오디오는 아예 지원하지 않는다. 라우터는 자체 입력 프롬프트에도 요금을 매기기 때문에, 비용 절감 효과를 주장할 때는 이 부분이 감안돼야 한다.

Anthropic 모델에는 별도 전제조건이 붙는다. Claude 계열은 같은 Foundry 계정에 동일한 SKU로 별도 배포돼 있어야 라우터가 선택할 수 있고, 이 배포 없이 서브셋에서 참조하면 `InvalidResourceProperties` 오류가 난다. Claude Opus 4.8이 지원 목록에 들어왔다고 해서 곧바로 쓸 수 있는 것은 아니라는 뜻이다.

마이크로소프트는 이번 지역 확장을 규정 준수 관점에서 설명한다. 규제나 거버넌스, 고객 신뢰 문제로 추론 요청이 특정 지리적 경계 안에 머물러야 하는 경우가 있다는 것이다. 지역이 2곳에서 28곳으로 늘면서, 데이터 거주 요건을 지켜야 하는 팀들이 이 라우터를 실제로 쓸 수 있는 범위가 넓어졌다.

[^1]: InfoQ, "Foundry Model Router Expands from Two Regions to 28, Refreshing Its Model Pool"

읽기 목록은 이 브라우저에 저장됩니다.