전 오픈AI 연구원, 환각 없는 AI 모델 '제프' 공개

ai.euno.news 자동 뉴스 요약

전직 OpenAI 연구원 디오구 알메이다(Diogo Almeida)가 창업한 스타트업 타입세이프(TypeSafe AI)가 9월 15일 새로운 AI 모델 라인업 ‘시스템 원 모델(System One Models)‘과 그 첫 공개 모델 ‘제프(Jev)‘를 공개했다. 알메이다는 OpenAI 재직 시절 인스트럭션 팔로잉 연구에 참여했고, 이 연구가 챗GPT의 기반이 됐다고 회사 블로그에서 밝혔다.

타입세이프에 따르면 제프는 기존 거대언어모델(LLM)과 달리 문자열을 생성하지 않는다. 대신 미리 정의된 타입 안의 구조화된 값과 확률적 신뢰도 점수를 함께 출력한다. 회사는 이를 “프론티어급 지능을 갖춘 함수 호출”이라 표현하며, 구조상 타입 오류나 환각이 발생할 수 없다고 설명한다.

핵심은 훈련 방식이다. 기존 LLM은 인간 피드백 기반 강화학습(RLHF)이나 검증 가능한 보상 기반 강화학습(RLVR)으로, 인간이 선호하는 응답이나 검증 가능한 결과물을 만들도록 훈련된다. 반면 제프는 회사가 자체 개발한 ‘보정된 결정을 위한 강화학습(RLCD, Reinforcement Learning for Calibrated Decisions)‘으로 훈련돼, 확률을 인식론적으로 정직하게 보정한 답을 내놓는 데 최적화됐다. 샘플링 방식도 다르다. 기존 모델이 토큰을 순차적으로 생성하는 것과 달리, 제프는 병렬 샘플러로 한 번의 질의에서 모든 출력을 동시에 만들어낸다.

회사가 공개한 수치는 다음과 같다.

타입세이프는 같은 수준의 지능을 내면서도, 회사가 ‘시스템 원’ 작업이라 부르는 빠르고 구조화된 판단이 필요한 과업에서 기존 LLM보다 40~200배 빠르다고 주장한다. 또 기존 LLM은 확신도를 물어도 과신하거나 일관성이 떨어지는 반면, 제프는 매 출력마다 보정된 신뢰도를 함께 내놓아 확신도가 높을수록 실제 정확도도 높아진다고 설명한다.

다만 이 내용은 모두 타입세이프 블로그에 실린 회사 자체 발표이며, 독립적인 벤치마크나 제3자 검증 결과는 공개되지 않았다. 회사 스스로도 글에서 “특별한 주장에는 특별한 근거가 필요하다”며 위 비교표를 근거로 제시했지만, 성능 수치가 구체적으로 어떤 작업이나 데이터셋을 기준으로 측정됐는지는 밝히지 않았다. 제프는 현재 얼리 액세스로 제공되며, 정식 출시 일정은 언급되지 않았다.

읽기 목록은 이 브라우저에 저장됩니다.