의료 특화 AI 'Ling 3.0 Flash Sante' Vercel 게이트웨이에 무료 공개

ai.euno.news 자동 뉴스 요약

inclusionAI가 만든 의료 특화 모델 ‘Ling 3.0 Flash Sante’가 Vercel의 AI 게이트웨이(AI Gateway)에 무료로 공개됐다. 무료 기간은 10월 4일까지이며, 이후에는 유료로 전환된다.

Ling 3.0 Flash Sante는 기존 Ling 3.0 Flash를 의료·헬스케어 용도로 특화한 버전이다. MoE(Mixture-of-Experts) 구조로 전체 파라미터는 1240억 개, 토큰당 실제로 활성화되는 파라미터는 약 51억 개 수준이다. 컨텍스트 윈도우는 256K 토큰이며 함수 호출(function calling)을 지원한다. 의료 추론, 전문 헬스케어 업무, 심층 리서치, 근거 기반 검색, 다단계 의료 워크플로우 처리를 목표로 설계됐고, 원 모델이 가진 일반 추론·코딩·에이전트 기능도 그대로 유지한다.

무료 기간 사용 방식은 모델 ID로 구분된다. 표준 ID인 inclusionai/ling-3.0-flash-sante는 10월 4일까지 무료로 쓸 수 있지만, 이 기간이 끝나면 자동으로 과금이 시작된다. 반대로 inclusionai/ling-3.0-flash-sante-free ID를 쓰면 무료 기간 종료와 동시에 과금 없이 서비스가 중단된다. 계속 쓸 계획이 없다면 후자를, 무료 기간 이후에도 이어서 쓸 생각이라면 전자를 선택하면 된다. 무료로 처리된 요청도 사용량 대시보드에는 그대로 기록되고 추적(trace)도 남지만, 비용만 0으로 표시된다.

AI SDK에서는 streamText 함수의 model 파라미터에 해당 ID를 지정하는 방식으로 호출한다.

import { streamText } from 'ai';

const result = streamText({
  model: 'inclusionai/ling-3.0-flash-sante',
  prompt: 'Compare the evidence in these abstracts and identify where they disagree.',
});

코딩 에이전트에서 쓰려면 vercel ai-gateway coding-agents setup 명령으로 Claude Code, Codex, Cursor 등을 연결한 뒤 에이전트 설정에서 inclusionai/ling-3.0-flash-sante를 모델로 선택하면 된다. 모델 플레이그라운드에서 바로 테스트해볼 수도 있다.

이번 공개는 AI 게이트웨이가 여러 모델 제공사의 API를 하나의 창구로 묶어주는 서비스라는 점과 맞물린다. 사용량·비용 추적, 재시도·장애 조치(failover), 성능 최적화, Zero Data Retention 지원, API 키별 예산 설정, 라우팅 규칙 등을 함께 제공한다. Vercel은 게이트웨이 요금이 제공사 가격을 그대로 반영할 뿐 별도 마진을 붙이지 않으며, 사용자가 직접 발급받은 API 키(BYOK)로 호출하는 경우에도 플랫폼 수수료를 물리지 않는다고 밝혔다.

읽기 목록은 이 브라우저에 저장됩니다.