AI 프로토콜 공격 벤치마크 공개

ai.euno.news 자동 뉴스 요약

대규모언어모델(LLM) 에이전트가 여러 네트워크 구성요소의 상호작용에서 생기는 취약점을 실제로 찾아 악용할 수 있는지 측정하는 벤치마크 ‘ProtoArena’가 공개됐다. 연구진이 다섯 LLM을 평가한 결과, Claude Opus 4.8이 가장 높은 성공률을 기록했지만 구체적인 단서가 없는 블랙박스 조건에서는 12.5%에 그쳤다. AI 에이전트가 일부 복합 프로토콜 공격을 실행할 수 있다는 사실과 자율 탐색 능력의 한계를 함께 보여주는 수치다.¹

기존 취약점 벤치마크는 개별 프로그램 분석에 치우쳐, 여러 참여자가 메시지 해석·처리 시점·상태·신뢰 가정을 서로 다르게 적용할 때 생기는 문제를 충분히 다루지 못했다. ProtoArena는 이 빈틈을 겨냥해 11개 프로토콜·애플리케이션 영역과 7개 공격 범주에 걸친 80개 동적 환경을 마련했다. 과제 대부분은 이미 발표된 프로토콜 공격 메커니즘을 바탕으로 구성됐다.¹

평가 대상 에이전트는 소스코드를 보지 못한 채 제한된 인터페이스를 통해 실행 중인 시스템과 상호작용하고, 정해진 보안 효과를 만들어야 한다. 정보는 세 단계로 나뉜다. 공격 재현을 구체적으로 안내하는 조건, 공격 메커니즘과 구성요소 배치를 알려주는 조건, 목표 효과만 제시하고 블랙박스 탐색을 요구하는 조건이다. 검증에는 규칙 기반 검사와, 에이전트의 작업 과정과 별도로 수집한 트래픽·로그를 검토하는 LLM 판정을 함께 사용했다.¹

Claude Opus 4.8의 성공률은 가장 많은 안내를 제공한 L1에서 48.8%였지만, 목표 효과만 주어진 L3에서는 12.5%로 낮아졌다. 별도로 진행한 DNSBomb 최적화 실험에서는 평균 질의 입력 바이트율 대비 하류 응답 바이트율의 최고 비율이 17만1,000배를 넘었다. 다만 이는 특정 최적화 실험의 최고치로, 80개 환경 전반의 성능을 뜻하지 않는다.¹

연구진은 성공 여부가 프로토콜 영역과 공격 범주에 따라 달랐으며, 제한된 정보만 주어진 상황에서는 전반적으로 성공률이 낮았다고 밝혔다. 또한 모든 실험은 명시적으로 허가된 통제 환경에서 이뤄졌다. 실제 운영 시스템을 시험하지 않았고, 알려지지 않았던 신규 취약점을 공개한 연구도 아니다. 따라서 ProtoArena의 결과는 곧바로 현실 시스템에 대한 자율 공격 능력으로 확대해 해석하기보다, 구성요소 간 불일치를 다루는 AI 보안 평가의 출발점으로 읽어야 한다.¹

읽기 목록은 이 브라우저에 저장됩니다.