신형 로우해머 공격 'GPUThor', 엔비디아 GPU ECC 방어 뚫어

ai.euno.news 자동 뉴스 요약

캐나다 토론토대학교 연구진이 엔비디아(NVIDIA) 워크스테이션 GPU를 겨냥한 새로운 로우해머(Rowhammer) 공격 ‘GPUThor’를 공개했다. 더해커뉴스에 따르면¹ 이 공격은 엔비디아가 GPU 로우해머의 방어책으로 권고해온 오류정정코드(ECC)를 무력화하고, 서비스 거부(DoS)는 물론 호스트 루트 셸까지 탈취할 수 있는 권한 상승으로 이어진다.

로우해머는 DRAM의 특정 행(row)을 반복해서 활성화해 인접 행의 비트를 뒤집는 하드웨어 결함 공격이다. 앞서 같은 연구팀은 GDDR6 메모리를 탑재한 RTX A6000에서 GB당 16비트 플립을 유도한 ‘GPUHammer’로 첫 GPU 로우해머 공격을 선보였고, 엔비디아는 2025년 7월 보안 공지에서 시스템 레벨 ECC를 켜면 문제가 완화된다고 밝힌 바 있다. GPUThor는 바로 그 ECC 방어선을 뚫었다는 점에서 이전 연구와 갈라선다.

핵심은 ‘비균일 해머링(non-uniform hammering)’ 기법이다. 기존 GPU 공격은 표적 행 옆의 공격 행과 TRR(Target Row Refresh, 표적 행 새로고침) 방어를 교란하기 위한 디코이 행을 비슷한 빈도로 활성화했다. 연구진은 32개 스레드가 한 묶음으로 실행되는 워프(warp) 내부의 반복 접근이 메모리 컨트롤러에서 하나의 DRAM 활성화로 병합된다는 점을 발견하고, 서로 다른 워프에서 같은 행의 다른 캐시 라인에 접근하도록 해머링 커널을 설계해 활성화 횟수를 늘렸다. 또 테스트한 GDDR6 칩의 TRR이 매 새로고침 주기가 아니라 약 72주기에 한 번꼴로 작동하는 것으로 추정된다고 밝히고 이 주기에 맞춘 6주기 패턴을 만들었다.

이 방식으로 RTX A6000(48GB), A5000(24GB), A4500(20GB), A4000(16GB) 등 암페어(Ampere) 세대 카드 4종의 뱅크 4개를 각각 24시간씩 공격한 결과, ECC를 끈 상태에서 GB당 7만2000~37만7000개의 비트 플립이 발생했다. 가장 취약했던 A5000은 37만7552개로, GPUHammer의 16개 대비 2만3597배, 기존 최강 GPU 로우해머였던 GDDRHammer의 758개 대비 약 500배에 달한다. 논문은 이 수치를 DDR4에서 비균일 해머링을 인-DRAM 방어를 우회하는 수단으로 정립한 ‘Blacksmith’의 약 55만개에 근접한 수준으로 평가했다.

문제는 ECC를 켜도 완전히 막히지 않는다는 데 있다. 이들 GPU가 쓰는 SECDED(단일 오류 정정·이중 오류 검출) ECC는 한 청크 안의 비트 오류 1개는 정정하고 2개는 검출하지만, 연구진은 16바이트 단위에서 387개의 이중 비트 플립과 2개의 삼중 비트 플립을 확인했다. 삼중 비트 플립이 발생하면 ECC가 이를 오정정해 조용한 데이터 손상(SDC)으로 이어진다. 실제로 소유한 RTX A6000에 ECC를 켜고 하루 동안 한 뱅크를 공격하자 검출 가능한 정정 불가 오류(DUE) 11회와 SDC 1회가 나왔고, DUE는 평균 2시간에 한 번꼴로 발생해 그때마다 카드에서 돌던 모든 커널이 강제 중단됐다.

권한 상승은 연구팀이 이전에 발표한 GPU 페이지 테이블 공격 ‘GPUBreach’의 익스플로잇 코드를 재사용해 이뤄졌다. 페이지 테이블을 취약한 행에 배치한 뒤 인접 행을 해머링해 페이지 프레임 번호를 손상시키고, 두 번째 커널이 조작된 엔트리를 통해 프로세스 바깥의 메모리에 접근하는 방식이다.

다만 공격이 성립하려면 공격자가 대상 GPU에서 권한 없는 CUDA 커널을 실행할 수 있어야 한다. 공유 카드의 공동 임차인이거나 단일 임차 머신에서 신뢰할 수 없는 코드를 돌리는 상황이 이에 해당한다. 연구진은 대응책으로 GPU를 여러 임차인이 공유하는 구성을 피하고, ECC 오류 카운터를 상시 모니터링하며, 신뢰할 수 없는 CUDA 워크로드 실행을 제한할 것을 권고했다.

읽기 목록은 이 브라우저에 저장됩니다.