이미지 패치로 VLM 지연시키는 공격 공개

2분 크로노패치VLM블랙박스 공격AI 보안
최근 30일 조회수 — 좋아요 —

핵심 요약

크로노패치는 최종 답변만 활용해 VLM 출력을 늘리고 지연 시간과 에너지 소비를 높이는 블랙박스 공격이다.

적대적 이미지 패치만으로 비전언어모델(VLM)의 답변을 길게 끌어 응답 시간과 연산 비용을 늘리는 블랙박스 공격 ‘크로노패치(ChronoPatch)’가 공개됐다. 공격자는 모델의 기울기나 로짓, 토큰별 출력에 접근하지 않고 최종 답변만 확인하면 된다. 연구진은 이 방식이 공개 모델뿐 아니라 상용 API에서도 통한다며, 생성형 AI 서비스의 가용성을 위협할 수 있다고 지적했다.1

비전언어모델은 이미지를 해석한 뒤 텍스트를 한 토큰씩 생성하는 자기회귀 디코딩을 사용한다. 답변이 길어질수록 추론 시간과 계산량이 함께 늘어나는 구조다. 크로노패치는 이 특성을 겨냥한다. 먼저 최종 답변의 길이를 기준으로 삼는 진화 탐색을 통해 생성을 지연시키는 시각적 ‘앵커’를 찾는다. 이어 부분공간을 보정한 결정 기반 최적화로 교란 크기를 줄인다. 모델 내부 정보 대신 완성된 답변의 길이만 피드백으로 이용한다는 점이 기존 에너지·지연 공격과 다르다.1

연구진이 이미지 면적의 5%만 패치에 쓰는 조건으로 오픈소스 비전언어모델 4종을 시험한 결과, 추론 지연은 47.86293.34%, GPU 에너지 소비는 41.44249.70% 늘었다. 출력에서는 같은 표현이 반복되는 현상도 증가했으며, 연구진은 이를 n-그램 반복 비율 상승으로 측정했다.1

상용 비전언어모델 API 3종에서도 효과가 나타났다. API마다 최대 500회 질의하는 조건에서 답변 길이는 37.681.5% 증가했고, 클라이언트가 측정한 지연 시간은 1.822.29배로 늘었다. 서버 내부 정보가 차단된 상용 환경에서도 최종 응답만으로 공격을 조정할 수 있다는 의미다.1

다만 이번 결과는 2026년 11월 19일 제출된 arXiv 초판 논문의 저자 실험에 근거한다. 논문 초록에는 시험한 모델과 API의 이름, 정상 입력 대비 패치의 시각적 은폐성, 방어책별 효과도 제시되지 않았다. 그럼에도 생성 과정 자체를 고려한 보호 장치가 필요하다는 문제는 분명히 드러낸다.1

Footnotes

  1. arXiv, 「ChronoPatch: Black-Box Energy-Latency Attacks on Vision-Language Models」 ↩ ↩2 ↩3 ↩4 ↩5

읽기 목록은 이 브라우저에 저장됩니다.

출처

  1. ChronoPatch: Black-Box Energy-Latency Attacks on Vision-Language Models — arXiv (cs.CR)

이 글은 위 출처를 근거로 자동 생성된 뒤 발행됐습니다. 원문을 함께 확인해 주세요. 교차 보도 없이 단독 출처로 작성됐습니다.