타입세이프AI Jev 1.14, 버셀에 추가

ai.euno.news 자동 뉴스 요약

타입세이프AI(TypeSafe AI)의 소프트웨어 의사결정 모델 ‘Jev 1.14’가 버셀(Vercel) AI 게이트웨이에 추가됐다. 버셀이 10월 15일 발표한 내용에 따르면, 개발자는 모델 이름으로 typesafe-ai/jev-1.14.0을 지정해 분류·라우팅·점수 산정·자동 검증 작업에 Jev를 쓸 수 있다.¹

Jev는 자유 형식의 문장을 생성하는 일반적인 언어 모델과 작동 방식이 다르다. 애플리케이션이 현재 상태(state)와 질문 묶음을 전달하면, Jev는 각 질문에 확률이 포함된 Choice, Score, Boolean 타입의 답을 반환한다. 여러 질문은 한 번의 요청에서 병렬로 처리한다. 출력 형태가 미리 정해져 있어, 생성된 문장을 다시 파싱하거나 원하는 형식인지 검사하는 절차를 줄이는 데 초점을 맞췄다.

1.14 버전에서는 상태 정보에 이미지를 넣을 수 있다. 예를 들어 제품 사진과 설명을 함께 전달한 뒤 사진이 주로 빨간색인지 Boolean 값으로 판단하게 할 수 있다. 버셀 AI SDK의 실험적 함수인 experimental_decide를 사용하며, 이미지는 file 타입과 image/png 같은 미디어 유형, 파일 데이터로 구성한다.

표준 요청에 담기 어려운 문서·로그·대화 기록을 위한 실험적 장문 맥락 모드도 제공한다. providerOptions.typesafe.longContext를 true로 설정하면 된다. 버셀이 공개한 예시는 고객지원 로그 전체를 상태로 입력하고, 배송된 물품이 파손됐다는 내용이 있는지를 불리언 값으로 확인한다. 다만 버셀은 이 기능을 실험적 모드로 소개했으며, 지원하는 최대 길이나 일반 모드와의 성능 차이는 밝히지 않았다.

데이터 처리 옵션으로는 요청 단위의 ‘데이터 무보관(Zero Data Retention)’과 ‘학습 미사용(No Training)’을 지원한다. Jev의 의사결정 호출은 AI 게이트웨이 로그와 사용자 정의 보고서에 기록되고 예산 사용량에도 합산된다. 다른 게이트웨이 제공자 옵션은 같은 요청의 providerOptions.gateway에 함께 지정할 수 있다. 이번 출시는 새로운 범용 생성 모델을 추가했다기보다, 확률이 붙은 타입형 답변을 기존 AI 게이트웨이의 관측·예산 관리 체계 안에서 호출할 수 있게 했다는 데 의미가 있다.

읽기 목록은 이 브라우저에 저장됩니다.