오픈웨이트 모델, 버셀 게이트웨이 토큰 첫 과반 차지

ai.euno.news 자동 뉴스 요약

버셀(Vercel)이 지난 목요일 발표한 9월 AI 게이트웨이 보고서에 따르면, 8월 한 달간 오픈웨이트(open-weight) 모델이 게이트웨이 전체 토큰 사용량의 56%를 처리했다. 오픈웨이트 모델의 비중이 절반을 넘어선 것은 이번이 처음이다. 다만 돈이 오가는 방식은 다르다. 같은 기간 지출액 기준으로는 앤스로픽(Anthropic) 모델이 전체의 64%를 가져갔다.

오픈웨이트 모델의 상승세는 이번이 처음 포착된 신호가 아니다. 더뉴스택(The New Stack)은 지난 월요일 오픈라우터(OpenRouter) 집계를 인용해 8월 미국 내 토큰 소비량의 60%가 오픈웨이트 모델 몫이었고, 그중 대다수가 중국산 모델이었다고 보도한 바 있다. 버셀 AI 게이트웨이는 매달 수십조 개의 토큰을 자사 인프라 위 애플리케이션들에 라우팅하는 서비스로, 개발자가 여러 모델 제공사의 API를 하나의 인터페이스로 접근할 수 있게 해준다. 요청을 중개하며 사용량과 비용을 함께 추적하기 때문에, 고객이 실제로 프로덕션에서 어떤 모델을 쓰는지 보여주는 지표로 참고할 만하다.

오픈웨이트 모델의 토큰 점유율은 지난해 12월 7%에서 4월 13%로, 이후 매달 꾸준히 올라 7월 36%를 기록했고 8월에 56%까지 뛰었다. 버셀 최고경영자(CEO) 기예르모 라우치(Guillermo Rauch)는 지난달 자신의 소셜미디어에 8월 22일 하루 오픈웨이트 비중이 62%까지 올라 “역대 최고 기록”을 세웠다고 밝히며 “기업 채택이 아직 초기 단계인 만큼 이는 시작에 불과할 가능성이 크다”고 썼다. 그는 하네스·CLI·IDE·SDK 등 개발 도구들이 특정 모델에 종속되지 않도록 바뀌어야 하는 과제가 남아 있다고 덧붙였다.

여기서 토큰 사용량은 지출액과 다른 지표라는 점을 짚어야 한다. 토큰 사용량은 입력·출력 토큰에 추론(reasoning) 토큰, 캐시 입력·생성 토큰까지 포함해 모델이 실제로 처리한 작업량을 나타내지만, 딥시크(DeepSeek)·문샷AI(Moonshot AI)·지파이닷에이아이(Z.ai) 같은 오픈웨이트 모델은 미국 프론티어 랩의 독점 모델보다 대체로 구동 비용이 싸다. 그 결과 버셀의 8월 데이터에서 오픈웨이트 모델은 전체 토큰의 56%를 처리하고도 지출액 기준으로는 1달러당 14센트만 가져갔다. 사용량 점유율과 지출 점유율 사이의 격차가 여전히 큰 셈이다. 다만 버셀은 오픈웨이트 모델의 지출 비중 자체는 상승 추세라고 밝혔다. 게이트웨이 전체의 토큰당 평균 가격은 8월에 23.2% 떨어져 3개월 연속 하락했고, 7·8월 두 달 모두 1000만 토큰 이상을 처리한 팀들의 토큰당 중간값 비용은 7.6% 낮아졌다.

반면 앤스로픽은 지출액 상위권에서 흔들림 없는 자리를 지키고 있다. 8월 게이트웨이 전체 지출 1달러당 64센트가 앤스로픽 모델로 흘러갔으며, 이 회사의 지출 점유율은 작년 12월 이후 한 번도 61% 아래로 내려간 적이 없다고 버셀은 밝혔다. 같은 기간 지출 순위 1·2위는 물론 3위까지도 앤스로픽 모델이 차지하는 경우가 잦았다.

앤스로픽 내부에서는 모델 간 순위 교체가 활발했다. 페이블5(Fable 5)는 7월 전체 게이트웨이 지출의 13.2%에서 8월 4.9%로 급락한 반면, 상대적으로 저렴한 오퍼스5(Opus 5)는 22.5%까지 올라섰다.

[^1]: The New Stack, “Open-weight models now handle a majority of tokens on Vercel’s AI Gateway. But Anthropic still takes 64% of the spend.”

읽기 목록은 이 브라우저에 저장됩니다.