AI로 로봇 소프트웨어 제로데이 28건 발견

2분 물리 AI로봇 보안제로데이VicOne
최근 30일 조회수 — 좋아요 —

핵심 요약

빅원이 이틀 만에 로봇 생태계의 미공개 취약점 28건을 찾았지만 심각도와 악용 가능성은 검증이 필요하다.

AI로 로봇 소프트웨어 제로데이 28건 발견 — 기사 주제를 표현한 AI 생성 개념 삽화
AI 생성 개념 삽화 · 실제 사건을 촬영한 사진이 아닙니다.

보안업체 빅원(VicOne)이 인공지능을 활용해 물리 AI 로봇 생태계의 소프트웨어와 도구를 조사한 결과, 이틀도 안 돼 제로데이 취약점 28건을 찾아냈다고 밝혔다. 구글·엔비디아·메타 등이 개발하거나 유지하는 프로젝트도 포함됐다. 초기 검증에서는 28건 모두 기존에 알려지지 않았고 패치도 없는 제로데이로 분류됐다.1

취약점은 로봇의 개발·훈련, 시뮬레이션·검증, 배포·실행이라는 세 단계에 걸쳐 발견됐다. 이 가운데 75%는 개발·훈련·시뮬레이션·검증 도구에 있었다. 실제 로봇이 현장에 투입되기 전부터 학습 결과와 안전성 평가가 훼손될 수 있다는 뜻이다.

개발 단계에서는 악성 사전학습 모델을 불러오는 과정에서 공격자가 훈련 시스템에 접근해 데이터나 모델을 바꿀 가능성이 제시됐다. 조작된 모델은 평상시 시험에서는 정상으로 보이다가 특정 물체나 장면, 명령에만 잘못 반응할 수 있다. 시뮬레이션 단계에서는 변조된 장면이나 로봇 모델을 통해 센서값, 물리 조건, 시험 결과가 조작될 수 있다. 이 경우 실제로는 위험한 로봇이 검증을 통과한 것처럼 보일 수 있다.

배포 이후의 위험은 물리적 동작과 더 가까워진다. 공격자가 동작 계획에 쓰이는 파일을 바꾸거나 악성 지도 데이터로 관제 화면을 멈추게 할 수 있고, 원격 운용 컴퓨터가 침해되면 로봇에 전달되는 명령도 영향을 받을 수 있다. 다만 빅원은 이런 결과가 28건 모두에서 실제로 입증된 것은 아니라고 선을 그었다. 영향은 공격자의 접근 권한과 시스템 구조, 추가 안전장치에 따라 달라진다.

이번 수치는 아직 확정값도 아니다. 공급업체와 취약점 관리 기관의 검토 뒤 건수가 바뀔 수 있으며, 일부에는 CVE 추적 번호가 없다. 더구나 IEEE Spectrum의 해당 글은 빅원이 제공한 후원 콘텐츠다. 따라서 AI가 취약점 탐색 속도를 높였다는 사례로는 의미가 있지만, 개별 취약점의 심각도와 실제 악용 가능성은 외부 검증과 후속 공개를 기다려야 한다.

Footnotes

  1. IEEE Spectrum, 「AI Finds 28 Zero-Day Flaws In Physical Robotics Software」 ↩

읽기 목록은 이 브라우저에 저장됩니다.

출처

  1. AI Finds 28 Zero-Day Flaws In Physical Robotics Software — IEEE Spectrum

이 글은 위 출처를 근거로 자동 생성된 뒤 발행됐습니다. 원문을 함께 확인해 주세요. 교차 보도 없이 단독 출처로 작성됐습니다.