구글, LLM의 보안 패치 악용 자동화 확인
최근 30일 조회수 — 좋아요 —핵심 요약
공격자들이 LLM 에이전트로 공개 패치를 분석해 취약점 탐지부터 익스플로잇 실행까지 자동화한 사례가 확인됐다.
구글 위협정보그룹(GTIG)이 공격자들이 공개 보안 패치를 대규모언어모델(LLM) 에이전트로 역분석하고, 취약점 발견부터 익스플로잇 생성·실행 시도까지 자동화한 사례를 확인했다. 구글과 맨디언트는 이를 LLM 프레임워크가 취약점 발견과 악용 전 과정을 자동화한 첫 관측 사례로 규정했다.1
더뉴스택에 따르면 연구진은 인터넷에 노출된 스테이징 서버에서 exploit_agent라는 다중 에이전트 프레임워크를 발견했다. 서버에는 피해자에게서 탈취한 데이터와 침입 이후 사용하는 스크립트도 있었다. exploit_agent는 여러 최신·로컬 호스팅 언어모델을 연결해 패치 전후 코드의 차이를 분석하고, 잠재적 취약점을 익스플로잇 코드로 바꾼 뒤 실행까지 시도했다. 오케스트레이터가 역할별 에이전트에 작업을 배분하고 문맥을 공유하며, 모델 컨텍스트 프로토콜(MCP) 같은 인터페이스로 도구를 호출하는 구조다.1
공격 도구도 한 단계에 그치지 않았다. 해당 서버에서는 정찰, 무차별 대입, 웹셸 설치, 경쟁 공격자가 남긴 웹셸 제거용 스크립트가 함께 발견됐다. 운영자는 프랑스의 미디어·엔터테인먼트·교육 웹사이트에 관심을 보였고, 워드프레스용 Spectra 플러그인의 접근 제어도 조사했다. 별도로 구글은 미국 항공우주 조직을 겨냥한 침입에서 CAIRN을 관측했다. CyberStrikeAI는 100개가 넘는 보안 도구를, HexStrike AI는 MCP를 통해 150개가 넘는 공격 도구를 연결한다.1 해커뉴스는 구글이 ARTEX, CAIRN, CyberStrikeAI, PentAGI 등 자율 다중 에이전트 프레임워크의 실제 침입 활용을 확인했다고 전했다.2
패치 비교 자체는 오래된 공격 기법이다. 달라진 점은 사람이 하던 분석·코드 작성·시험을 에이전트가 연쇄 실행하면서 공개와 공격 사이의 시간을 줄인다는 데 있다. PaperCut 취약점 사례에서는 공개 하루 안에 LLM의 도움을 받은 작동 가능한 익스플로잇이 개발됐고, 나흘 뒤 수백 개 조직을 겨냥한 공격이 관측됐다. 공격자는 최초 침투 뒤 몇 분 만에 도메인 관리자 권한에 도달했다.1
다만 자동화가 곧 높은 성공률을 뜻하지는 않는다. 구글은 작업별로 사용된 모델과 생성된 익스플로잇의 성공 빈도를 공개하지 않았다. 탈취 데이터가 exploit_agent로 확보됐는지도 확인하지 못했다. PHP 취약점 패치 뒤 온라인에 등장한 수백 개의 익스플로잇 가운데 상당수는 작동하지 않는 LLM 생성 코드로 추정됐다.1 공격 속도뿐 아니라 진짜 위협과 실패한 코드를 가려내는 부담까지 방어팀에 넘어온 셈이다.
Footnotes
읽기 목록은 이 브라우저에 저장됩니다.
출처
- Security patches are supposed to protect you. Google found AI agents turning them into exploits. — The New Stack
- Google Finds Hackers Using AI Agents to Build and Run Exploits From Software Patches — The Hacker News
이 글은 위 출처를 근거로 자동 생성된 뒤 발행됐습니다. 원문을 함께 확인해 주세요.