LLM 로봇 설정 바꾸는 무인증 공격
최근 30일 조회수 — 좋아요 —핵심 요약
리치 미니 라이트의 인증 없는 관리 경로를 통해 시스템 프롬프트와 행동 지침을 바꾸는 공격이 입증됐다.
대규모 언어 모델(LLM)이 제어하는 소셜 로봇에서 대화형 프롬프트 공격을 거치지 않고도 성격과 행동 지침을 바꾸는 공격이 제시됐다. 11월 17일 공개된 arXiv 논문에 따르면, 인증되지 않은 공격자가 폴른 로보틱스(Pollen Robotics)의 리치 미니 라이트(Reachy Mini Lite) 관리 인터페이스에 접근해 성격 설정과 클라우드 LLM의 시스템 프롬프트를 교체할 수 있었다. 연구진은 실제 하드웨어에서 행동 변화를 확인했다.1
이 공격은 로봇과 대화하면서 안전장치를 우회하는 일반적인 프롬프트 인젝션과 다르다. 연구진이 5개 범주에서 시도한 프롬프트 인젝션 11건은 모두 거부됐지만, 설정 계층을 노린 두 가지 경로는 성공했다. 추론 단계에서 모델이 위험한 명령을 거부하더라도, 그 판단 기준인 시스템 프롬프트 자체가 외부에서 바뀌면 방어가 작동하기 어렵다는 뜻이다.
연구진은 로컬 접근과 같은 네트워크에 붙은 인접 공격자에 의한 접근을 시연했다. 취약점은 중요 기능에 인증이 없다는 CWE-306, 제한 없는 IP 주소에 서비스를 바인딩한 CWE-1327로 분류됐으며, 보고된 공통 취약점 평가 시스템(CVSS) v3.1 점수는 6.5점으로 ‘중간’ 등급이다. 설정 엔드포인트가 브라우저의 교차 출처 요청을 사전 확인 없이 받아들이는 문제도 CWE-352와 CVSS 6.5점으로 평가됐다. 장기 기억 저장 기능 역시 명시된 제한을 실제로 강제하지 않은 채 내용을 보관했다.
문제는 로봇 한 대의 구현에만 그치지 않을 가능성이 있다. 연구진이 공개 저장소 59개를 검토한 결과, 소스에서 검증할 수 있는 실제 애플리케이션 11개 가운데 10개에 인증이 없었다. 프레임워크 기본 설정 사례까지 포함하면 11개 모두가 해당했다. 이는 개발 단계에서 통용되던 네트워크 신뢰 가정이 카메라와 마이크를 갖춘 소비자용 로봇에 그대로 옮겨갈 때 생기는 배포 격차를 보여준다. 악용 시 연구진이 제시한 잠재적 결과는 온보드 센서를 이용한 감시와 주변 사용자를 겨냥한 사회공학이다.
다만 이 수치를 상용 로봇 전반의 취약 비율로 해석해선 안 된다. 논문도 공개 저장소 표본에서 문제가 반복됐다는 결과일 뿐, 상용 제품의 보편적 현황을 뜻하지 않는다고 선을 그었다. 실험 대상 역시 리치 미니 라이트 한 종이다. 그럼에도 LLM 안전성만 점검해서는 충분하지 않으며, 모델의 지침과 기억을 바꾸는 관리 경로에도 인증과 네트워크 접근 통제가 필요하다는 점은 실제 장비에서 확인됐다.
Footnotes
-
arXiv, “Network-Exposed Configuration Attacks on LLM-Controlled Social Robots” ↩
읽기 목록은 이 브라우저에 저장됩니다.
출처
이 글은 위 출처를 근거로 자동 생성된 뒤 발행됐습니다. 원문을 함께 확인해 주세요. 교차 보도 없이 단독 출처로 작성됐습니다.