AWS·업스테이지·올라마, 의사결정 API 통일

ai.euno.news 자동 뉴스 요약

AWS와 업스테이지(Upstage), 올라마(Ollama)가 의사결정 모델을 호출하는 공통 API 규격에 합의했다. 더뉴스택에 따르면 이 규격은 타입세이프 AI(TypeSafe AI)가 제브(Jev)와 함께 공개한 ‘시스템 원 API(System One API)’의 요청·응답 구조를 따른다. 다만 오픈AI(OpenAI)는 아직 참여하지 않았다.¹

의사결정 모델은 고객 메시지나 업무 정책 같은 애플리케이션 상태와 자료형이 지정된 질문을 입력받아, 선택지별 확률이 붙은 구조화된 답을 반환한다. 일반 대규모 언어 모델(LLM)처럼 문장이나 코드, 판단 과정을 생성하지 않는다는 점이 다르다. 시스템 원 API는 질문을 목록에서 하나를 고르는 choice, 순서가 있는 기준으로 평가하는 score, 예·아니요 조건의 확률을 구하는 noul 세 종류로 나누며, 한 요청에 섞어 보낼 수도 있다.

AWS가 10월 1일 공개한 오픈 웨이트 모델 ‘스트랜즈 디사이더 2B(Strands Decider 2B)’는 알리바바의 큐원 3.5(Qwen3.5)를 기반으로 하지만, 서버로 실행하면 제브가 약 2주 앞서 도입한 것과 같은 /v1/systemone 엔드포인트를 쓴다. 업체마다 서비스 주소와 엔드포인트는 달라도 요청·응답 스키마가 빠르게 같아지고 있다는 게 더뉴스택의 설명이다. 오픈AI와 업스테이지, 퍼플렉시티, 클라우드플레어는 호스팅 모델을 제공하고, AWS와 독립 개발자들은 허깅페이스에 가중치를 공개했다.

이 규격이 필요한 이유는 의사결정 모델이 LLM을 대체하기보다 에이전트의 작은 판단을 맡기 때문이다. LLM이 계획을 세우고 글을 쓰며 도구를 호출한다면, 의사결정 모델은 요청을 어느 모델로 보낼지 정하거나 도구 실행 여부를 가린다. 오픈라우터는 9월 25일 제브 라우터를 내놓아 요청별 모델과 추론 강도를 선택하게 했다. AWS 예제는 날씨 도구를 부르기 전 두 개의 예·아니요 판단을 거치며, AWS는 처음 보는 짧은 분류 과제에서 신뢰도 0.9 이상인 답의 정확도가 약 95%였다고 밝혔다.

다만 신뢰도는 정답 확률이 아니다. 타입세이프 AI 문서에서 이 값은 선택지별 확률 분포가 얼마나 한곳에 모였는지를 뜻하며, 개별 답의 정답을 보장하지 않는다. 또 공통 스키마가 확산 중이지만 표준 경쟁이 끝난 것은 아니다. LLM 시장에서 오픈AI의 챗 컴플리션 API가 여러 업체의 호환 구현을 거쳐 사실상 기본 인터페이스가 된 전례는 가능한 경로를 보여줄 뿐이다.¹

읽기 목록은 이 브라우저에 저장됩니다.