코히어, 기업용 검색 모델 Rerank 5 공개
최근 30일 조회수 — 좋아요 —핵심 요약
추론·전문 검색 품질을 높이고 관련 구간만 추출해 RAG 토큰 비용을 줄이는 리랭킹 모델이다.
코히어(Cohere)가 기업용 검색 결과의 순위를 다시 매기는 ‘Rerank 5’를 공개했다. 고품질 모델 rerank-v5.0-pro는 복잡한 추론이 필요한 질의와 금융·의료·과학 연구 분야에서 가장 큰 품질 향상을 보였다는 게 회사 설명이다. 함께 나온 rerank-v5.0-fast는 지연 시간과 비용에 민감한 작업을 겨냥했으며, 이전 세대의 고품질 모델인 Rerank 4 Pro보다 성능이 높다고 코히어는 밝혔다.1
리랭킹은 검색 시스템이 먼저 찾아낸 문서 후보를 질의와의 관련성에 따라 재정렬하는 과정이다. Pro는 긴 문서와 전문 분야 문서, 추론 중심 질의에 초점을 맞춘다. Fast는 처리량이 많은 검색이나 한 작업에서 검색을 여러 차례 수행하는 에이전트에 맞췄다. 두 모델 모두 3만2000토큰의 문맥 길이와 100개가 넘는 언어를 지원하며, JSON·표 등 반정형 데이터를 YAML 문자열로 받아 순위를 매길 수 있다.2
토큰 사용량을 줄이는 핵심 기능은 ‘컨텍스트 포커스(Context Focus)’다. 문서 전체가 아니라 질의와 가장 관련 있는 구간을 한 번의 리랭킹 호출에서 찾아준다. 결과에는 문서별 관련성 점수와 함께 선택된 구간의 시작·끝 문자 위치, 구간 점수가 담긴다. 검색증강생성(RAG) 시스템은 이 구간만 대규모 언어 모델(LLM)에 넘겨 입력 토큰 비용을 낮출 수 있다. 사용자 화면에서는 해당 구간을 강조해 문서가 검색된 이유를 보여주는 데도 쓸 수 있다. 다만 이 기능은 기본값이 꺼져 있어 별도로 활성화해야 한다.1
관련성 점수는 질의와 전문 분야가 달라져도 일관된 기준으로 보정됐다. 이에 따라 운영자는 하나의 임계값을 정해 LLM에 전달할 결과를 걸러낼 수 있다. 기존 코퍼스를 다시 색인하거나 임베딩할 필요도 없다. Rerank가 질의 시점에 원문을 읽기 때문에 모델 매개변수만 rerank-v5.0-pro 또는 rerank-v5.0-fast로 바꾸면 된다는 설명이다.2
Rerank 5는 코히어의 Rerank API와 마이크로소프트 파운드리, 아마존 세이지메이커에서 제공된다. 단일 테넌트용 모델 볼트와 별도 협의가 필요한 자체 가상사설클라우드(VPC)·온프레미스 배포도 지원한다. 다만 코히어가 공개한 변경 기록에는 정확도 향상 폭, 평가 데이터셋, 토큰 절감률이나 지연 시간 같은 수치가 없다. 따라서 Rerank 4 Pro 대비 개선 정도와 실제 비용 효과는 각 기업의 문서와 질의로 따로 검증해야 한다.
Footnotes
읽기 목록은 이 브라우저에 저장됩니다.
출처
- Cohere Documentation — Cohere Docs
- Cohere Documentation — Cohere Docs
이 글은 위 출처를 근거로 자동 생성된 뒤 발행됐습니다. 원문을 함께 확인해 주세요.