AI 에이전트, 노출된 앱서 API 키 탐색

2분 AI 에이전트API 키LiteLLMDify
최근 30일 조회수 — 좋아요 —

핵심 요약

아마존은 AI 앱의 취약점과 설정 오류를 자동 탐색해 API 키를 노린 에이전트 캠페인을 확인했다.

아마존 위협 인텔리전스팀이 LiteLLM·Dify 등 인터넷에 노출된 인공지능(AI) 애플리케이션을 자동 탐색해 API 키를 훔치는 캠페인을 확인했다. 공격자는 탈취한 키로 다시 대규모언어모델(LLM)을 실행하고, 이 모델을 이용해 추가 키를 찾는 순환 구조를 만들었다. 다만 아마존이 공격 현장을 직접 관찰한 것은 아니어서, 실제 침해 성과까지 확인되지는 않았다.1

아마존은 인기 LLM 서비스처럼 꾸민 미끼 서버망 ‘매드팟(MadPot)’에서 10월 3일부터 지난주 말까지 에이전트의 요청을 수집했다. 요청에는 운영자의 지시와 에이전트가 보고한 발견 내용 등 캠페인 이력이 자주 포함됐다. 아마존은 중국어 간체 프롬프트와 중국 시간대 설정 등을 근거로 서로 다른 중국 연계 조직이 관여했을 가능성을 ‘중간 수준의 신뢰도’로 평가했다. 침투 테스트용 오픈소스 AI 도구 ARTEX가 쓰였다는 판단 역시 같은 신뢰도다.1

ARTEX는 운영자가 목표를 주면 계획 에이전트가 작업을 나누고, 작업 에이전트가 보안 도구를 실행하는 방식이다. 각 단계의 결과를 LLM에 보내 다음 행동을 정한다. 기록상 공격자들은 One API·New API·Veloera·Sub2API·LiteLLM 같은 LLM 게이트웨이와 Dify·FastGPT·Langflow·RAGFlow·Open WebUI·LobeChat·Ollama 같은 앱 구축 도구를 노렸다. 여러 AI 제공업체의 키를 한곳에 보관하는 서비스는 관리자 화면 하나만 뚫어도 여러 계정이 함께 노출될 수 있어 우선 표적이 됐다.1

공격 지침에는 LiteLLM 기본 마스터 키를 비롯한 기본 관리자 자격증명, 외부인이 넘겨받을 수 있는 미완료 설치, Langflow와 RAGFlow의 알려진 취약점이 담겼다. 로그인 없이 접근할 수 있는 관리·제공업체 설정 경로, One API 계열의 isCliRequest 헤더 인증 우회, URL 가져오기 기능을 악용한 서버 측 요청 위조(SSRF)도 포함됐다. 클라이언트 자바스크립트와 소스맵, 디버그 경로, 환경 파일에 남은 비밀정보도 탐색 대상이었다.1

에이전트는 인터넷 스캔 서비스와 인증서 투명성 로그뿐 아니라 GitHub 저장소, npm·PyPI 패키지, 컨테이너 이미지 계층, 노트북, 붙여넣기 사이트, 텔레그램 채널까지 뒤졌다. 키가 작동하는지 확인한 뒤 공유 저장소에 넣었고, 클라우드 자격증명을 얻으면 AI 모델 호스팅 관리형 서비스와 비밀정보 저장소, 애플리케이션 신원을 표적으로 삼았으며 일반 클라우드 접근권보다 고급 AI 모델을 우선했다.1

별도 사건에서 클라우드플레어는 ARTEX가 IP 제한과 속도 제한이 없는 CI/CD용 API 토큰에 접근한 뒤 한 시간 동안 데이터베이스 덤프를 400차례 요청한 정황을 포착했다. 데이터가 실제 반환됐는지는 공개되지 않았다. 아마존의 기록 속 성공 보고 역시 검증된 침해 사실로 받아들여서는 안 된다.1

Footnotes

  1. The Hacker News, “Amazon Uncovers AI Agent Campaign Targeting LiteLLM, Dify, and Other Apps for API Keys” ↩ ↩2 ↩3 ↩4 ↩5 ↩6

읽기 목록은 이 브라우저에 저장됩니다.

출처

  1. Amazon Uncovers AI Agent Campaign Targeting LiteLLM, Dify, and Other Apps for API Keys — The Hacker News

이 글은 위 출처를 근거로 자동 생성된 뒤 발행됐습니다. 원문을 함께 확인해 주세요. 교차 보도 없이 단독 출처로 작성됐습니다.