퀄컴, 스마트글라스용 초경량 AI 모델 '본사이' 공개

ai.euno.news 자동 뉴스 요약

퀄컴이 24일(현지시간) 보도된 테크크런치 기사에 따르면, 스냅드래곤 서밋에서 AI 스타트업 프리즘ML(PrismML)의 초경량 언어모델 ‘본사이(Bonsai)‘를 공개했다. 본사이는 1비트로 양자화된 대형 언어모델(LLM)로, 스냅드래곤 AR1 1세대 플랫폼(Snapdragon AR1 Gen 1 Platform) 기반 AI 스마트글라스에서 로컬로 구동되도록 만들어졌다.¹

프리즘ML은 칼텍(Caltech) 출신 연구자들이 설립하고 UC버클리의 이온 스토이카(Ion Stoica) 교수가 자문을 맡은 연구소다. 이 회사의 핵심 기술은 대형 모델을 대폭 축소하면서도 표준 벤치마크 성능은 거의 그대로 유지하는 압축 방식으로, 테크크런치가 이전 보도에서 이미 소개한 바 있다. 이번에 공개된 스마트글라스용 본사이는 이 기술을 적용해 원본 대비 4배 축소한 20억 파라미터 모델로, 시각과 언어 정보를 함께 처리하도록 조정됐다. 착용자가 지금 보고 있는 대상에 대해 실시간으로 질문하면 답을 받을 수 있는 방식이다.

프리즘ML이 이번 공개로 노리는 것은 단순한 신제품 홍보가 아니다. 회사는 기기에 이미 탑재된 연산 능력을 더 효율적으로 활용하는 오픈웨이트(open-weight) AI를 지향한다고 밝혔다. 클라우드로 데이터를 보내는 대신 기기 안에서 모델을 돌리면, 프라이버시를 약속하는 대형 AI 연구소들의 정책에 의존하지 않아도 되고, 갈수록 커지는 이들의 컴퓨팅 수요에서도 자유로울 수 있다는 것이 회사의 논리다. 스냅드래곤 칩용 모델 출시는 이런 구상을 실제 기기에 옮기는 첫 단계에 해당한다.

다만 현재로서는 본사이를 실제로 탑재해 출시하겠다고 밝힌 스마트글라스 제조사는 아직 없다. 퀄컴의 이번 시연은 칩셋 차원에서의 기술 실증에 가깝고, 소비자가 손에 쥘 수 있는 제품으로 이어질지는 확인되지 않았다.

읽기 목록은 이 브라우저에 저장됩니다.