퀄컴, 스마트글라스용 초경량 AI 모델 '본사이' 공개

최근 30일 조회수 — 좋아요 —

핵심 요약

퀄컴이 프리즘ML과 협력해 스냅드래곤 AR1 기반 스마트글라스에서 로컬 구동되는 1비트 양자화 LLM '본사이'를 공개했다.

퀄컴, 스마트글라스용 초경량 AI 모델 '본사이' 공개 — 기사 주제를 표현한 AI 생성 개념 삽화
AI 생성 개념 삽화 · 실제 사건을 촬영한 사진이 아닙니다.

퀄컴이 24일(현지시간) 보도된 테크크런치 기사에 따르면, 스냅드래곤 서밋에서 AI 스타트업 프리즘ML(PrismML)의 초경량 언어모델 ‘본사이(Bonsai)‘를 공개했다. 본사이는 1비트로 양자화된 대형 언어모델(LLM)로, 스냅드래곤 AR1 1세대 플랫폼(Snapdragon AR1 Gen 1 Platform) 기반 AI 스마트글라스에서 로컬로 구동되도록 만들어졌다.1

프리즘ML은 칼텍(Caltech) 출신 연구자들이 설립하고 UC버클리의 이온 스토이카(Ion Stoica) 교수가 자문을 맡은 연구소다. 이 회사의 핵심 기술은 대형 모델을 대폭 축소하면서도 표준 벤치마크 성능은 거의 그대로 유지하는 압축 방식으로, 테크크런치가 이전 보도에서 이미 소개한 바 있다. 이번에 공개된 스마트글라스용 본사이는 이 기술을 적용해 원본 대비 4배 축소한 20억 파라미터 모델로, 시각과 언어 정보를 함께 처리하도록 조정됐다. 착용자가 지금 보고 있는 대상에 대해 실시간으로 질문하면 답을 받을 수 있는 방식이다.

프리즘ML이 이번 공개로 노리는 것은 단순한 신제품 홍보가 아니다. 회사는 기기에 이미 탑재된 연산 능력을 더 효율적으로 활용하는 오픈웨이트(open-weight) AI를 지향한다고 밝혔다. 클라우드로 데이터를 보내는 대신 기기 안에서 모델을 돌리면, 프라이버시를 약속하는 대형 AI 연구소들의 정책에 의존하지 않아도 되고, 갈수록 커지는 이들의 컴퓨팅 수요에서도 자유로울 수 있다는 것이 회사의 논리다. 스냅드래곤 칩용 모델 출시는 이런 구상을 실제 기기에 옮기는 첫 단계에 해당한다.

다만 현재로서는 본사이를 실제로 탑재해 출시하겠다고 밝힌 스마트글라스 제조사는 아직 없다. 퀄컴의 이번 시연은 칩셋 차원에서의 기술 실증에 가깝고, 소비자가 손에 쥘 수 있는 제품으로 이어질지는 확인되지 않았다.

Footnotes

  1. TechCrunch, “PrismML brings its tiny LLMs to Qualcomm-powered smart glasses” ↩

읽기 목록은 이 브라우저에 저장됩니다.

출처

  1. PrismML brings its tiny LLMs to Qualcomm-powered smart glasses | TechCrunch — TechCrunch

이 글은 위 출처를 근거로 자동 생성된 뒤 발행됐습니다. 원문을 함께 확인해 주세요. 교차 보도 없이 단독 출처로 작성됐습니다.