앤스로픽, LLM 추론 검증 기술 공개

ai.euno.news 자동 뉴스 요약

앤스로픽(Anthropic)이 대규모 언어모델(LLM)의 답변이 실제로 약속한 모델에서 생성됐는지를 암호학적으로 검증하는 ‘증명 가능한 추론’ 연구 진전을 공개했다. 핵심은 모델 제공자가 특정 모델을 사전에 확정하고, 이후 각 응답이 그 모델의 추론 결과임을 증명하는 것이다. 앤스로픽은 이를 구현한 시스템 ‘플래시프루브(FlashProve)’와 코드, 기술 문서, 형식 검증 자료를 아파치 2.0 라이선스로 공개했다.¹

현재 이용자는 서비스가 선택한 모델 대신 비용이 싼 모델을 몰래 연결했거나, 공격자가 토큰 흐름을 변조했는지 출력만 보고 확실히 판단할 수 없다. 답변 품질이 좋아도 어느 모델이 만들었는지를 보장하지는 못한다. 앤스로픽은 영지식 간결 비대화형 지식 증명(zkSNARK)을 이용해 이 문제를 다뤘다. zkSNARK는 모델 가중치를 공개하지 않고도 추론이 제대로 수행됐음을 효율적으로 증명할 수 있다. 다만 플래시프루브는 가중치는 숨기지만 모델 구조까지 감추는 것을 목표로 삼지는 않는다.¹

성능 시험에는 4,000억 매개변수 규모의 전문가 혼합 모델인 라마 4 매버릭(Llama 4 Maverick)이 쓰였다. 가중치를 4비트로 양자화하고 프리필 단계에서 정수 연산을 적용했을 때, H100 GPU 한 대가 초당 약 110개 토큰에 해당하는 속도로 증명을 생성했다. 1,024토큰 요청 하나의 증명 크기는 약 19MB였다. 앤스로픽에 따르면 필요한 GPU 시간은 오픈소스 추론 라이브러리 vLLM로 모델만 실행할 때보다 약 70~95배 많다. 회사는 기존 오픈소스 증명 시스템보다 훨씬 빠르다고 설명했지만, 일반 추론과 비교하면 계산 비용이 여전히 큰 셈이다.¹

이번 연구에는 클로드(Claude)도 설계 최적화에 활용됐다. 다만 복잡한 시스템에서 클로드의 판단을 평가하기 어렵다는 문제를 보완하려고, 연구진은 보안 보장의 최상위 수학 명제를 형식 검증 언어 린(Lean)으로 작성했다. 빠른 C++ 검증기와 정확성이 증명된 린 검증기, 프로토콜 명세, 기술 보고서, 린 증명 및 시각화 도구도 함께 내놨다.¹

앤스로픽은 이 기술이 소비자 서비스의 모델 확인, 내부 보안, AI 개발 속도 제한 준수 검증 등에 쓰일 수 있다고 본다. 그러나 이번 공개를 완성된 체계가 아닌 중간 연구 성과로 규정했다. 초당 처리량이 높아졌어도 증명 비용과 크기가 실제 서비스에 어느 정도 부담이 될지는 추가 검증이 필요하다.

읽기 목록은 이 브라우저에 저장됩니다.