LLM 취약점 탐지 방해하는 안티에이전트
최근 30일 조회수 — 좋아요 —핵심 요약
자바스크립트 동작을 유지하면서 LLM 에이전트의 취약점 탐지 건수를 최대 60.7% 줄이는 기법이 제안됐다.
자바스크립트 프로그램의 동작은 유지하면서 대규모 언어 모델(LLM) 기반 취약점 탐지 에이전트의 분석을 방해하는 방어 기법이 제안됐다. 11월 19일 arXiv에 공개된 논문에서 연구진은 ‘안티에이전트(AntiAgent)’를 실제 자바스크립트 애플리케이션에 적용한 결과, 클로드 코드(Claude Code)와 코덱스(Codex) 등 네 가지 탐지 에이전트가 찾아낸 취약점 수가 52.0~60.7% 줄었다고 밝혔다.1
자바스크립트 프로그램은 소스 코드 형태로 배포되는 경우가 많아 공격자가 내부 구현과 취약점을 직접 살펴볼 수 있다. 여기에 LLM 에이전트가 코드 탐색과 취약점 분석을 자동화하면서 공격 문턱이 더 낮아졌다는 것이 논문의 문제의식이다. 안티에이전트는 개발자가 프로그램을 공개하기 전에 코드를 변환해 이런 분석을 어렵게 만든다.
핵심은 탐지 에이전트가 실제로 실패한 변환을 학습 재료로 삼는 방식이다. 먼저 알려진 취약점이 포함된 프로그램 모음을 여러 형태로 변형하고, 탐지 에이전트가 각 버전을 분석하는 과정을 추적한다. 에이전트가 취약점을 놓치거나 잘못 보고한 버전은 남겨 두고, 그때 쓰인 변환을 재사용 가능한 규칙으로 추출한다. 새 프로그램을 보호할 때는 LLM과 변환 규칙이 작업을 나눠 맡는다. 규칙을 기계적으로 적용하는 데 그치지 않고 프로그램 구조에 맞게 조정하면서 원래 의미를 보존하기 위해서다.
평가에서는 안티에이전트가 네 탐지 에이전트 모두에서 기존 난독화 도구 JS-Obfuscator와 LLM 기반 변환 방식 FPA보다 높은 회피 효과를 냈다. 변환된 프로그램은 각 프로젝트의 테스트를 모두 통과했다. 연구진은 이를 프로그램의 기존 동작이 유지됐다는 근거로 제시했다. 학습용 프로그램 모음에 없던 취약점 유형뿐 아니라 파이썬으로 작성된 프로그램에서도 변환 규칙의 효과가 이어졌다고 보고했다.
다만 논문이 제시한 수치는 탐지된 취약점의 감소율이지, 공격을 완전히 차단했다는 뜻은 아니다. 테스트 전부를 통과했다는 결과도 테스트가 다루지 못한 동작까지 동일하다고 보장하지는 않는다. 또한 이 기법은 소프트웨어 보호 수단인 동시에 보안 점검을 어렵게 만들 수 있어, 배포 전 자체 감사와 취약점 수정의 대체재로 보기는 어렵다.
Footnotes
-
arXiv, 「Hardening JavaScript Programs against LLM-Based Vulnerability Detection」 ↩
읽기 목록은 이 브라우저에 저장됩니다.
출처
이 글은 위 출처를 근거로 자동 생성된 뒤 발행됐습니다. 원문을 함께 확인해 주세요. 교차 보도 없이 단독 출처로 작성됐습니다.