GPU 커널 검증 시스템 RESOLVE 제안

ai.euno.news 자동 뉴스 요약

연구진이 프로그래밍 언어와 프레임워크에 구애받지 않고 GPU 커널을 검사하는 검증 시스템 RESOLVE를 제안했다. RESOLVE는 실행 테스트와 형식 검증을 결합해 경쟁 상태를 찾고, 복잡한 병렬 커널을 분석 가능한 형태로 축소한 뒤, 후보 커널과 기준 커널이 같은 계산을 수행하는지 증명한다. AI가 작성·최적화한 GPU 커널을 일부 입력으로만 시험하는 기존 방식의 빈틈을 줄이는 것이 목표다.¹

일반적인 검증은 무작위 입력을 넣어 두 커널의 출력이 수치 허용 오차 안에서 일치하는지 확인한다. 하지만 경쟁 상태는 실행 순서에 따라 간헐적으로 드러나므로 반복 테스트에서도 놓칠 수 있다. 부동소수점 오차를 감안한 허용 범위 역시 실제 버그를 가리거나, 정상 결과를 오류로 판정할 수 있다. 연구진은 테스트 횟수와 허용 오차를 조정하는 것만으로는 이 문제를 충분히 풀기 어렵다고 봤다.

RESOLVE의 검증은 세 단계로 진행된다. 먼저 바이너리 계측으로 실행 시점을 교란해 숨어 있는 경쟁 상태가 나타나도록 한다. 이어 에이전트가 후보 커널과 기준 커널을 동시성이 낮은 형태로 다시 작성한다. 축소된 커널은 분석하기 쉬우면서도 모든 테스트에서 원본과 비트 단위로 같은 출력을 내야 한다. 마지막으로 F*/Pulse 프레임워크에서 두 축소 커널이 실수 범위에서 같은 계산을 수행한다고 형식적으로 증명한다. 이 과정은 결과값 사이의 허용 오차를 정할 필요를 없앤다.

연구진은 KernelBench의 여러 커널을 대상으로 RESOLVE를 평가했으며, CUTLASS·Triton·Gluon으로 작성한 최신 융합 GEMM(일반 행렬 곱셈) 구현 사이의 동등성도 증명했다고 밝혔다. 검증이 까다롭기로 알려진 메가커널에서는 이전에 보고되지 않은 문제 네 건을 찾아냈고, 이 가운데 두 건을 명백한 버그로 분류했다. 에이전트가 RESOLVE를 이용해 성능 저하를 최소화하면서 문제를 고칠 수 있다는 결과도 제시했다.

다만 공개된 내용은 2026년 10월 5일 제출된 arXiv 초판의 저자 보고다. 초록에는 KernelBench에서 검증한 커널의 정확한 수, 네 문제의 구체적 원인, 수정 전후 성능 수치가 제시되지 않았다. 따라서 RESOLVE가 광범위한 실제 GPU 작업에서 어느 정도 비용으로 적용되는지는 논문 본문의 세부 평가를 함께 살펴야 한다.¹

읽기 목록은 이 브라우저에 저장됩니다.