버셀, 저지연 추론 모델 ‘Cat Jam’ 공개

ai.euno.news 자동 뉴스 요약

버셀(Vercel)이 코딩과 에이전트 작업에 맞춘 저지연 추론 모델 ‘Cat Jam’을 AI 게이트웨이(AI Gateway)에 추가했다. Cat Jam은 현재 스텔스 모델로 제공되며, 스텔스 기간에는 무료로 쓸 수 있다. 버셀은 10월 15일 자사 블로그에서 이 모델의 이용 가능 여부와 기능을 공개했다.¹

Cat Jam은 텍스트만 입력받는 추론 모델이다. 코딩뿐 아니라 외부 도구를 호출하며 여러 단계를 처리하는 에이전트 작업을 겨냥했다. 함수 호출을 지원해 사용자가 마련한 도구와 연결할 수 있고, 지정한 JSON 스키마에 맞춰 구조화된 결과를 낼 수 있다. 답변에는 최종 결과와 함께 모델의 추론 텍스트도 포함된다. 추론 강도는 low, medium, high, xhigh, max의 다섯 단계에서 고를 수 있다. 다만 버셀은 응답 속도를 ‘저지연’이라고 설명했을 뿐, 제공된 자료에는 지연 시간이나 코딩 성능을 다른 모델과 비교한 수치가 담기지 않았다.

AI SDK에서는 모델 이름으로 stealth/cat-jam을 지정하면 된다.

import { streamText } from 'ai';

const result = streamText({
  model: 'stealth/cat-jam',
  prompt: 'Write a TypeScript function that retries fetch with exponential backoff.',
});

연결 방식도 넓다. OpenAI 호환 Chat Completions·Responses API와 Anthropic 호환 Messages API를 지원하며, AI 게이트웨이에 연결된 코딩 에이전트에서도 사용할 수 있다. Claude Code, Codex, Cursor 등에 붙이려면 최신 버셀 CLI로 npx vercel ai-gateway setup을 실행한 뒤 Cat Jam을 선택한다.

이번 제공은 단순한 모델 공개라기보다 AI 게이트웨이의 통합 창구 역할을 보여주는 사례다. AI 게이트웨이는 하나의 API에서 여러 모델을 호출하고 사용량과 비용을 추적하며, 재시도·장애 조치·라우팅 규칙과 API 키별 예산을 설정할 수 있다. 버셀은 공급자 가격에 별도 마진을 붙이지 않고, 자체 키를 쓰는 BYOK(Bring Your Own Key) 요청을 포함해 추론 플랫폼 이용료도 받지 않는다고 밝혔다.

이용 전 확인할 제약도 있다. Cat Jam에는 제로 데이터 보존(Zero Data Retention·ZDR)이 적용되지 않으며, 안전상의 이유로 프롬프트가 보관될 수 있다. 민감한 코드나 내부 정보를 입력할 때는 무료 제공 여부보다 이 데이터 처리 조건을 먼저 따져야 한다. 무료 이용 기간 역시 ‘스텔스 기간’으로만 안내됐고 종료 시점은 공개되지 않았다.

읽기 목록은 이 브라우저에 저장됩니다.