버셀 AI 게이트웨이, GPT-Live 1.1 지원
최근 30일 조회수 — 좋아요 —핵심 요약
버셀이 전이중 음성 대화와 텍스트 모델 위임을 지원하는 GPT-Live 1.1을 AI 게이트웨이에 추가했다.

오픈AI(OpenAI)의 전이중 음성 모델 GPT-Live 1.1이 버셀(Vercel) AI 게이트웨이에 추가됐다. 전이중 방식은 모델이 말하는 동안에도 사용자의 음성을 계속 듣는 구조다. 사용자는 답변 도중 말을 멈추게 하거나 끼어들고, 질문에 세부 내용을 덧붙일 수 있다. 버셀은 11월 19일 GPT-Live 1.1 지원을 시작했다고 밝혔다.1
GPT-Live 1.1은 이전 GPT-Live보다 음성 전사 정확도가 높아졌고, 언어가 바뀌어도 억양과 목소리를 더 일관되게 유지한다. 기존 연동 방식을 크게 손댈 필요는 없다. 같은 Live 엔드포인트와 클라이언트 위임 기능을 사용하므로, 이미 GPT-Live를 적용한 서비스라면 모델 ID를 openai/gpt-live-1.1로 바꾸면 된다. 버셀 AI SDK에서는 @ai-sdk/openai의 experimental_realtime을 통해 모델을 불러오고, 웹소켓 설정을 받아 실시간 세션을 구성한다.
이번 지원에서 눈에 띄는 부분은 음성 대화를 이어가면서 다른 텍스트 모델에 작업을 맡기는 클라이언트 위임이다. 예컨대 주문 관련 질문이 들어오면 GPT-Live 1.1이 애플리케이션에 도움을 요청하고, 애플리케이션은 AI 게이트웨이의 텍스트 모델로 답을 만든 뒤 commentary 채널을 통해 돌려줄 수 있다. GPT-Live 1.1은 그 결과를 음성으로 전달한다. 어떤 모델에 무엇을 맡길지뿐 아니라 권한, 사용자 확인, 취소 여부도 애플리케이션이 통제한다.
다만 위임된 텍스트 모델 요청은 별도로 과금되며, 해당 작업이 진행되는 동안에도 음성 세션 사용량은 계속 쌓인다. 버셀이 공개한 예제도 전체 구현은 아니다. 웹소켓 연결, 이벤트 해석, 전사문 조립, 오디오 스트리밍, 종료 처리는 별도로 구성해야 한다.
AI 게이트웨이는 여러 모델을 단일 API로 호출하고 사용량과 비용을 추적하는 서비스다. 재시도와 장애 조치, 라우팅 규칙, API 키별 예산, 맞춤형 보고, 데이터 미보관(Zero Data Retention)도 지원한다. 버셀은 공급자 가격에 별도 마진을 붙이지 않으며, 자체 API 키를 쓰는 BYOK(Bring Your Own Key)를 포함해 추론 플랫폼 수수료도 받지 않는다고 설명했다.1
Footnotes
읽기 목록은 이 브라우저에 저장됩니다.
출처
- GPT-Live 1.1 now available on AI Gateway - Vercel — Vercel Blog
이 글은 위 출처를 근거로 자동 생성된 뒤 발행됐습니다. 원문을 함께 확인해 주세요. 교차 보도 없이 단독 출처로 작성됐습니다.