버셀, Python AI SDK에 evaluate API 추가

ai.euno.news 자동 뉴스 요약

버셀(Vercel)이 Python용 AI SDK에 실험적 evaluate() API를 추가했다. 이 API는 새로운 AI 모델 Jev를 호출해 입력 데이터를 여러 선택지나 점수로 평가하고, 각 답변의 신뢰도를 구조화된 JSON으로 돌려준다. 버셀은 10월 2일 공개한 블로그에서 Jev를 범용 분류기(universal classifier)로 소개하며, 특정 분야의 데이터를 별도로 수집·라벨링하고 분류기를 학습시키는 과정을 줄이는 데 초점을 맞췄다고 밝혔다.¹

Jev는 자유로운 문장을 생성하는 일반적인 대규모 언어 모델(LLM)과 쓰임새가 다르다. 데이터와 객관식 질문을 입력하면 미리 정의한 선택지 가운데 답을 고르는 방식이다. LLM으로 출발했지만 분류기처럼 빠르고 저렴하게 작동하며, 질문에서 지정한 자료형과 선택지에 맞춰 결과를 반환한다는 것이 버셀의 설명이다. 다만 Jev도 오답을 낼 수 있다. 좁은 의사결정에 쓰도록 설계된 만큼, 실제 업무에 필요한 정확도를 충족하는지는 개발자가 직접 시험해야 한다.

Python SDK의 API 구성은 단순하다. evaluate() 함수에 모델과 상태(state), 질문 묶음을 전달한다. 상태에는 문자열이나 복잡한 JSON을 넣을 수 있으며, 질문은 세 종류를 지원한다. ChoiceQuestion은 하나의 답을 선택하고, ScoreQuestion은 개발자가 정한 척도로 점수를 매긴다. NoulQuestion은 특정 진술이 참일 확률을 추정한다.

SDK는 uv add ai로 설치하며, AI Gateway 키를 만든 뒤 AI_GATEWAY_API_KEY 환경변수를 설정해야 한다. 버셀이 제시한 예제는 ai.get_model("typesafe-ai/jev")로 모델을 불러와 “태양과 지구 중 무엇이 더 큰가”를 ChoiceQuestion으로 묻고, result.value["bigger"]에서 결과를 읽는다. 버셀은 공식 Jev API의 형태를 Python SDK에 거의 그대로 옮겼다고 설명했다.

이번 추가 기능은 질문의 자료형과 가능한 답을 코드에서 명시하고, 구조화된 JSON 결과를 받을 수 있게 한다. 반대로 Jev의 범용 지식만 믿고 정확도를 가정해서는 안 된다. 버셀 역시 거래 판단부터 사용자 인터페이스 생성까지 여러 활용 사례를 언급하면서도, 용도별 검증이 먼저라고 선을 그었다.

읽기 목록은 이 브라우저에 저장됩니다.