버셀, Nemotron 3.5 무료 제공

ai.euno.news 자동 뉴스 요약

버셀(Vercel)이 엔비디아(NVIDIA)의 오픈웨이트 추론·대화 모델 ‘Nemotron 3.5 Lightning’을 AI 게이트웨이(AI Gateway)에서 무료로 제공한다. 10월 14일 버셀 발표에 따르면 모델 이름은 nvidia/nemotron-3.5-lightning-free이며, 추론 요청은 엔비디아가 직접 처리한다.¹

Nemotron 3.5 Lightning은 장시간 실행되는 에이전트와 하위 에이전트 작업, 챗봇, 검색증강생성(RAG) 시스템을 겨냥한 모델이다. 전체 매개변수는 300억 개지만 토큰을 처리할 때마다 30억 개만 활성화한다. 여러 전문가 모듈 가운데 일부만 골라 쓰는 전문가 혼합(Mixture-of-Experts·MoE) 구조에 Mamba-2와 MoE 계층을 번갈아 배치하고, 일부 어텐션 계층을 더한 하이브리드 설계다. 전체 매개변수의 10분의 1만 토큰당 가동하는 셈이다.

컨텍스트 창은 100만 토큰이며 도구 호출과 구조화 출력도 지원한다. 긴 작업 기록이나 대규모 문서를 유지하면서 외부 도구를 쓰고, 정해진 형식으로 결과를 반환해야 하는 에이전트 개발에 맞춘 사양이다. 다만 버셀은 성능 벤치마크나 다른 모델과의 품질 비교 자료를 이번 발표에 싣지 않았다.

개발자는 버셀 AI SDK뿐 아니라 Chat Completions, Responses, Messages API로 모델을 호출할 수 있다. 코딩 에이전트 연결도 지원한다. 최신 버셀 CLI를 설치한 뒤 다음 명령을 실행하고 모델 목록에서 무료 모델을 선택하면 Claude Code, Codex, Cursor 등에서 쓸 수 있다.

npx vercel ai-gateway setup

무료 제공의 범위는 AI 게이트웨이의 요금 정책과도 맞물린다. 버셀은 공급자 가격을 별도 인상 없이 반영하며, 자체 API 키를 연결하는 BYOK(Bring Your Own Key) 요청을 포함해 추론에 플랫폼 수수료를 부과하지 않는다고 밝혔다. AI 게이트웨이는 하나의 API로 여러 모델을 호출하면서 사용량과 비용을 추적하고, 재시도·장애 전환·라우팅 규칙·API 키별 예산을 설정하는 서비스다.

무료라는 점과 별개로 데이터 처리 조건은 확인해야 한다. 버셀은 공급자가 모델 개선 목적으로 프롬프트를 보관할 수 있다고 명시했다. 따라서 기밀 코드나 개인정보가 담긴 문서를 보내려는 조직은 사용 전에 이 보관 가능성을 정책과 함께 검토할 필요가 있다.

읽기 목록은 이 브라우저에 저장됩니다.