레이서, GPU 커널 실제 버그 82건 발견

2분 GPU 커널레이서기호 검증버그 탐지
최근 30일 조회수 — 좋아요 —

핵심 요약

기호 동치 검증 도구 레이서가 프로덕션 GPU 커널 2,408개를 검사해 23개 라이브러리에서 버그 82건을 찾았다.

레이서, GPU 커널 실제 버그 82건 발견 — 기사 주제를 표현한 AI 생성 개념 삽화
AI 생성 개념 삽화 · 실제 사건을 촬영한 사진이 아닙니다.

GPU 커널과 기준 구현이 모든 입력에서 같은 계산을 하는지 수식으로 검증하는 도구 ‘레이서(Racer)’가 공개됐다. 10월 20일 arXiv에 제출된 논문에 따르면, 레이서는 41개 수집 대상에서 확보한 프로덕션 커널 2,408개를 검사해 23개 라이브러리에서 실제 버그 82건을 찾았다. 이 가운데 76건은 이전에 알려지지 않았으며, 논문 제출 시점까지 41건이 확인됐다.1

GPU 커널은 AI 서비스 성능을 좌우하지만 GPU 세대와 수치 형식, 서빙 방식, 커널 언어가 달라질 때마다 같은 연산자를 다시 구현해야 한다. 새 구현은 기존 구현과 같은 함수를 계산해야 한다. 현재는 대체로 무작위 텐서를 새 커널과 신뢰할 수 있는 기준 구현에 각각 넣고, 두 출력의 차이가 허용 오차 안에 드는지 보는 차등 테스트에 의존한다.

문제는 허용 오차다. 최적화된 정상 커널에서도 부동소수점 오차가 생기므로 어느 정도 차이는 받아들여야 한다. 하지만 논리 오류가 만든 차이가 그보다 작으면 테스트를 통과할 수 있다. 무작위 사례를 더 늘려도 이 구조적 사각지대는 사라지지 않는다는 것이 연구진의 지적이다.1

레이서는 실제 숫자 대신 기호 입력으로 커널과 기준 구현을 실행한다. 각 출력 셀을 정확한 대수식으로 바꾼 뒤, 서로 짝을 이룬 두 식이 모든 입력에서 일치하는지 검사한다. 이 방식은 한 번의 검사로 전체 입력 공간을 다루며, 근삿값 비교가 아니라 정확한 식을 사용해 부동소수점 오차와 논리 버그를 구별한다.

연구진은 이 접근법을 PTX 수준에서 구현했다. 프로덕션 커널에도 적용할 수 있도록 검사 비용을 낮추는 ‘형상 축소(Shape Reduction)’, 동시성을 처리하는 ‘록스텝 CTA 스케줄러(lockstep CTA scheduler)’, 판정이 나지 않는 경우를 다루는 ‘관용구 템플릿(idiom templates)’과 정확한 수치 반증 기법을 결합했다.1

다만 공개된 수치는 논문 저자들이 보고한 결과다. 82건 가운데 확인됐다고 명시된 사례는 41건이며, 나머지의 검증 상태나 도구의 오탐률·검사 비용은 주어진 초록만으로 판단할 수 없다. 그럼에도 무작위 실행 결과의 근사 비교에 머물던 커널 검증을 ‘모든 입력에서 같은 함수인가’라는 문제로 바꿨다는 점이 레이서의 핵심이다.

Footnotes

  1. arXiv, “Racer: Hunting GPU Kernel Bugs with Symbolic Equivalence Checking” ↩ ↩2 ↩3

읽기 목록은 이 브라우저에 저장됩니다.

출처

  1. Racer: Hunting GPU Kernel Bugs with Symbolic Equivalence Checking — arXiv (cs.AI/cs.CL/cs.LG)

이 글은 위 출처를 근거로 자동 생성된 뒤 발행됐습니다. 원문을 함께 확인해 주세요. 교차 보도 없이 단독 출처로 작성됐습니다.