AI 공급망서 프롬프트 비밀정보 노출

2분 AI 보안프롬프트공급망ZDR
최근 30일 조회수 — 좋아요 —

핵심 요약

200만 개의 추적용 비밀정보 실험에서 AI 업체 침해와 무보관 요청을 포함한 프롬프트 유출이 확인됐다.

보안 연구자 HD 무어(HD Moore)가 약 200만 건의 인공지능(AI) 프롬프트에 추적 가능한 비밀정보를 심어 전송한 결과, 최소 3개 AI 제공업체가 공격자에게 침해됐고 여러 재판매업체가 프롬프트를 외부에 노출한 정황이 확인됐다. 이용자가 ‘데이터를 보관하지 말라’고 지정한 요청도 예외가 아니었다. AI 앱과 모델 사이에 여러 중개 사업자가 끼는 공급망에서 개인정보 보호 약속이 실제 통제로 이어지지 않는다는 뜻이다.1

무어는 비어 있는 아마존웹서비스(AWS) 계정의 유효한 접근 키, SSH 등 서비스의 비밀번호, 고유 URL과 도메인이름시스템(DNS) 이름, 비공개 깃 저장소 참조값을 준비했다. 이전에 사용된 적 없는 비밀정보를 각각 단 하나의 프롬프트에 넣고 한 제공업체로만 보냈다. 이후 누군가 키를 시험하거나 추적용 주소에 접속하면 어느 요청이 새어 나갔는지 역추적하는 ‘카나리(canary)’ 방식이다.1

실험에서 공격자는 침해한 한 제공업체를 거쳐 들어온 AWS 키 수백 개를 재사용했다. 일부 키는 프롬프트를 심은 지 몇 시간 만에 시험됐다. 특히 모델이 실행되기도 전에 제공업체가 거부한 요청까지 탈취됐다. 무어는 이를 공격자가 추론 엔진 내부가 아니라 제공업체의 요청 접수 지점에서 데이터를 복사했다는 증거로 해석했다. 다른 두 침해 사례에서는 ‘데이터 무보관(Zero Data Retention·ZDR)’ 표시가 붙은 요청도 도난당했다.1

노출면이 넓어진 배경에는 오픈라우터(OpenRouter)나 버셀(Vercel) 같은 AI 라우터가 있다. 이들은 가격과 작업 적합성 등을 따져 프롬프트를 추론 엔진으로 보내며, 라우터가 다른 라우터에 다시 전달하기도 한다. 전송 구간에서는 암호화되지만 각 중간 단계에서는 내용을 읽고 판단해야 하므로 프롬프트가 평문으로 복호화된다. 각 사업자가 이를 기록하고 자체 정책에 따라 저장할 가능성도 있다.1

다만 이번 실험은 연구자가 통제한 추적 가능한 비밀정보와 빈 AWS 계정에 연결된 유효한 접근 키, 실제로 작동하는 자격증명과 서비스 비밀번호 등을 사용했다. 따라서 실제 피해 규모를 산출한 조사는 아니다. 그럼에도 침해된 제공업체, 프롬프트를 기록해 제3자에게 넘긴 재판매업체, 개인정보 설정을 지키지 않은 사례를 직접 추적했다는 점에서 공급망 구조 자체의 위험을 보여준다. ZDR 같은 설정도 사업자 내부에 공격자가 들어온 뒤에는 방어선이 되지 못했다.1

Footnotes

  1. Ars Technica, “Researcher plants 2m canaries into the AI supply chain. A privacy disaster surfaced.” ↩ ↩2 ↩3 ↩4 ↩5

읽기 목록은 이 브라우저에 저장됩니다.

출처

  1. Researcher plants 2m canaries into the AI supply chain. A privacy disaster surfaced. — Ars Technica (Technology)

이 글은 위 출처를 근거로 자동 생성된 뒤 발행됐습니다. 원문을 함께 확인해 주세요. 교차 보도 없이 단독 출처로 작성됐습니다.