구글, 동형암호 AI 추론 자동화 컴파일러 HEIR 공개

ai.euno.news 자동 뉴스 요약

구글이 동형암호(Homomorphic Encryption, HE) 기반 추론을 자동화하는 오픈소스 컴파일러 HEIR(Homomorphic Encryption Intermediate Representation)를 공개했다. 컨벤셔널한 평문 입력을 전제로 학습된 사전 학습 AI 모델을 암호화된 데이터에서 그대로 동작하도록 컴파일해주는 개발 툴체인이다. InfoQ에 따르면 개발자는 파이썬으로 프로그램을 작성하고 어떤 데이터 타입을 암호화할지 주석만 달면, HEIR가 이를 동형암호 실행용으로 컴파일한다.¹

동형암호는 암호문 상태 그대로 연산을 수행해 서버가 원본 데이터를 전혀 들여다보지 않고도 결과를 암호화된 형태로 돌려주는 기술이다. 구글은 이 방식이 종단간 암호화가 안고 있던 딜레마, 즉 스팸·바이러스 탐지 같은 서비스가 암호화된 사용자 데이터 위에서 동작해야 하거나, 기기에 배포된 AI 모델의 지적재산이 노출될 위험을 동시에 풀어낸다고 설명한다. 실제로 구글은 HEIR를 이용해 사용자 데이터를 노출하지 않는 콘텐츠 추천, 금융 정보를 보호한 신용카드 부정거래 탐지, 패킷 내용을 서비스 제공자에게 드러내지 않는 네트워크 침입 탐지, 오디오 원본을 공개하지 않는 핫워드 인식 등에 이 기술을 적용해왔다.

HEIR의 핵심은 다양한 방언(dialect)에 걸쳐 복잡한 모델을 표현·확장할 수 있는 중간 표현(IR) 계층이다. 구글이 공개한 데모는 사전 학습된 PyTorch 모델을 완전동형암호(FHE)용으로 컴파일하는 과정을 보여주는데, 아직 이 과정은 자동화되어 있지 않다. 먼저 torch_mlir로 PyTorch 모델을 MLIR로 내보내는 작업부터 시작해 여러 단계를 거쳐야 한다.

공개 이후 해커뉴스에서는 성능을 둘러싼 논쟁이 이어졌다. 이용자 dhx가 제시한 구체적인 수치는 다음과 같다.

이용자 Sabretooth1405는 HE 계열 기법이 추론 작업에서 최대 1000배가량 오버헤드를 유발해 상업적으로 쓰기 어렵다고 지적했다. 반면 odo1242는 LLM 연산이 주로 덧셈과 곱셈에 의존하고, FHE가 가장 취약한 분기(branching) 연산의 비중이 낮다는 점에서 전망이 다를 수 있다고 반박했다. patters는 1000배 오버헤드라도 1ms 걸리던 이미지 분류가 1초로 늘어나는 수준이라 일부 용도에는 여전히 쓸 만하다고 덧붙였다. 한편 meindnoch와 Chris2048은 논의를 프라이버시의 근본 트레이드오프로 되돌려, 가장 사적인 AI는 결국 자신의 기기에서 돌리는 것이며 쿼리와 데이터를 지키고 싶다면 로컬 배포에 드는 전력 비용을 감수할 만하다고 주장했다.

구글은 HEIR 저장소에 벤치마크 코드를 포함시켰지만, LLM에 적용했을 때의 상대적 속도는 아직 수치로 공개하지 않았다.

읽기 목록은 이 브라우저에 저장됩니다.