오픈AI 출신 연구자, 확률 출력 AI 모델 '젭' 공개

ai.euno.news 자동 뉴스 요약

디오고 알메이다가 이끄는 스타트업 타입세이프 AI(TypeSafe AI)가 이번 주 새 AI 모델 젭(Jev)을 공개했다. 알메이다는 오픈AI에서 챗GPT 개발에 참여했고 인간 피드백 기반 강화학습(RLHF, Reinforcement Learning from Human Feedback) 기법을 만든 연구자다. 젭은 텍스트를 출력하는 거대언어모델(LLM)이 아니라 확률값, 회사 표현으로는 “보정된 결정(calibrated decisions)“을 내놓는 트랜스포머 기반 모델이다. 테크크런치에 따르면 공개 직후 API 서버가 몰린 트래픽을 감당하지 못해 한때 서비스가 중단됐을 만큼 개발자들의 반응이 뜨겁다.

알메이다는 오픈AI를 나온 이유를 언어 자체의 한계에서 찾는다. “우리는 병 속에 번개를 담았지만 그게 쓸모가 없다”는 것이 그의 말이다. 지난 4년간 인간의 언어를 다루는 데는 뛰어난 성과를 냈지만, 컴퓨터는 다른 언어를 쓰기 때문에 자동화에는 맞지 않는다는 진단이다. 젭이 문장 대신 확률을 출력하는 것은 이 문제를 정면으로 피해 가는 방식이다. 출력값의 범위를 사용자가 미리 정해두기 때문에 환각(hallucination)이 구조적으로 발생하지 않고, 연산이 가벼워 속도도 빠르다. 과금 방식도 특이한데, 출력 토큰은 무료이고 입력 토큰만 백만 단위가 아닌 십억 단위로 계량해 청구한다.

실제 사용 사례도 나왔다. 에이전트 인프라 기업 버셀(Vercel)의 엔지니어 프라니트 샤르마는 명령어의 안전성을 분류하는 작업에 오픈AI의 챗GPT 루나(Luna) 5.6을 쓰다가 젭으로 바꾼 뒤 처리 속도가 518배 빨라지고 정확도도 올라갔다고 밝혔다. 브라이오 AI(Bryo AI)의 CTO 니킬 무드홀카르는 업무 이메일 분류 작업에서 젭과 구글 제미나이(Gemini)를 비교했는데, 정확도는 제미나이가 근소하게 앞섰지만 비용은 1020배 더 들었다고 전했다. 그는 정확도보다도 젭이 실제 확률값을 그대로 돌려준다는 점을 워크플로 자동화에 더 유용한 특징으로 꼽았다.

젭의 활용처는 LLM을 대체하는 데 그치지 않는다. 알메이다는 LLM 기반 에이전트의 작업 흐름을 감시해 탈옥(jailbreak) 시도를 잡아내는 용도로도 젭을 제안한다. 오픈소스 모델 하니스 파이(Pi)를 만드는 에어렌딜(Earendil)의 CTO 아르민 로나허는 젭의 확률 출력이 사용자가 결과를 신뢰할지 판단하는 기준이 된다고 설명했다. 확률이 50%면 결과를 무시하고 95%면 그대로 활용하는 식의 의사결정이 가능하다는 것이다. 로나허는 특정 작업에 어떤 모델을 투입할지 실시간으로 판별하는 ‘모델 라우팅’에도 젭이 저렴하고 빠르다는 이유로 적합할 수 있다고 덧붙였다.

젭이라는 이름은 19세기 경제학자 윌리엄 스탠리 제번스(William Stanley Jevons)에서 따왔다. 상품 가격이 떨어지면 오히려 사용량이 늘어난다는 제번스의 역설을 지능에 적용한 셈이다. 알메이다는 지능의 비용이 낮아지면 지금의 대형 앱 중심 구도보다는 초기 인터넷처럼 곳곳에 분산된 형태로 소프트웨어가 확산될 것이라고 내다봤다. 다만 젭의 내부 구조는 공개되지 않았다. 회사는 이를 직관에 초점을 맞춘 “시스템 1 모델”이라고 부르는데, 외부 관측자들은 기존 오픈웨이트 LLM을 기반으로 만들어졌을 것으로 추정하고 있다.

읽기 목록은 이 브라우저에 저장됩니다.