허깅페이스, 5억 매개변수 음성 모델 공개

최근 30일 조회수 — 좋아요 —

핵심 요약

40여 개 언어를 인식하는 럼블-2-플래시가 아파치 2.0 라이선스로 공개됐다.

허깅페이스, 5억 매개변수 음성 모델 공개 — 기사 주제를 표현한 AI 생성 개념 삽화
AI 생성 개념 삽화 · 실제 사건을 촬영한 사진이 아닙니다.

5억 매개변수 음성 인식 모델 ‘럼블-2-플래시(Rumble-2-Flash)’가 11월 18일 아파치 2.0 라이선스로 공개됐다. 40개가 넘는 언어를 자동으로 판별하며, 숫자 표기 방식과 군더더기 표현, 반복 발화, 출력 언어도 제어할 수 있다. 모델 가중치는 허깅페이스 허브의 Reson8/Rumble-2-Flash에서 받을 수 있다.1

럼블-2-플래시는 큐웬3-ASR(Qwen3-ASR) 아키텍처를 채택해 별도 코드나 trust_remote_code 없이 트랜스포머스(Transformers)와 vLLM에서 실행된다. 개발진은 더 큰 운영용 모델 럼블-2(Rumble-2)를 온폴리시 증류(on-policy distillation)해 크기를 줄였다. 학생 모델이 음성을 직접 받아쓴 뒤 교사 모델이 다음 토큰의 확률을 위치마다 제시하는 방식이다. 서로 다른 토크나이저는 골드(GOLD) 기법으로 텍스트 분할을 맞춰 비교했다.1

공개된 시험 결과에서는 크기 대비 정확도와 처리량이 두드러진다. 오픈 ASR 리더보드 다국어 트랙에서 중국어·독일어·프랑스어·이탈리아어·스페인어·포르투갈어·힌디어·네덜란드어·영어의 평균 오류율은 6.96%였다. 이 결과는 매개변수 수가 15배인 메타 옴니ASR-LLM 7B와 위스퍼 large-v3보다 나았다. 영어 트랙의 단어 오류율(WER)은 평균 6.6%였다.1

배치가 충분히 채워진 대형 데이터셋에서는 실시간 대비 처리 속도(RTFx)가 7,000배를 넘어, 한 시간 분량의 음성을 약 0.5초에 처리했다. 다만 처리량은 배치 크기에 따라 달라지므로 모든 실행 환경에서 같은 속도를 뜻하지는 않는다.1

전화 음성 시험에서도 5억 매개변수라는 크기의 이점이 확인됐다. 14개 영어 억양을 포함한 302시간짜리 앱텍(AppTek) 콜센터 벤치마크에서 WER은 7.86%로, 300억 매개변수 엔비디아 네모트론 3.5 트랜스크라이브의 7.78%와 비슷했다. 같은 계열의 큐웬3-ASR 0.6B는 8.7%, 1.7B는 7.4%였다. 다만 이 수치는 앱텍 자체 채점 스크립트로 얻은 공개 당시의 보고 결과다. 다양한 장비와 실제 서비스 환경에서도 정확도와 속도가 유지되는지는 별도 검증이 필요하다.1

Footnotes

  1. Hugging Face Blog, “Rumble-2-Flash: an open 0.5B speech model for 40+ languages” ↩ ↩2 ↩3 ↩4 ↩5

읽기 목록은 이 브라우저에 저장됩니다.

출처

  1. Rumble-2-Flash: an open 0.5B speech model for 40+ languages — Hugging Face Blog

이 글은 위 출처를 근거로 자동 생성된 뒤 발행됐습니다. 원문을 함께 확인해 주세요. 교차 보도 없이 단독 출처로 작성됐습니다.