로컬 재작성으로 이메일 LLM 유출·비용 감소

ai.euno.news 자동 뉴스 요약

이메일을 대신 작성·발송하는 대규모언어모델(LLM) 에이전트의 개인정보 유출을 줄이면서 원격 모델 호출 비용도 억제하는 기법이 제안됐다. 10월 13일 arXiv에 공개된 논문은 발송 직전 초안을 로컬 모델로 고쳐 쓰고, 위험한 메일에만 최종 개인정보 검사기를 적용하는 ‘로컬 우선’ 방식을 제시했다.¹

LLM 에이전트는 사용자의 비공개 정보를 읽고 외부 수신자에게 보낼 메일을 만든다. 기존의 ‘검사-수정’ 방어는 초안이 검증을 통과하지 못할 때마다 원격 작성 모델과 원격 검사 모델을 반복 호출한다. 특히 요청자가 정확한 값이나 원본 기록, 출처 증거처럼 구체적인 정보를 집요하게 요구하면 개인정보가 많이 담긴 초안이 생성되고, 수정 횟수와 비용도 함께 늘어난다는 것이 연구진의 문제의식이다.

연구진이 제안한 ‘계약 조건부 재작성’은 먼저 발송 초안을 가로챈 뒤, 보존할 정보와 일반화할 정보, 공개를 금지할 정보를 명시한 ‘정보 공개 계약’을 만든다. 이어 신뢰할 수 있는 로컬 환경의 Gemma 모델이 계약에 맞춰 초안을 다시 쓰며, 마지막 단계에는 의미상 유출 여부를 판단하는 PrivacyChecker를 선택적으로 둔다.

실험 결과는 개인정보 보호와 메일 효용이 반드시 상충하지는 않음을 보여준다. 일반 요청에서 Gemma와 검사기를 함께 썼을 때 유출률은 11.41%에서 4.03%로 낮아졌고, 요청을 전부 또는 일부 충족한 출력의 비율인 UsableRate는 85.2%에서 92.6%로 올랐다. 정확한 정보 공개를 유도하는 전략적 공격 요청에서는 유출률이 28.19%에서 18.79%로 줄었다. 검사기만 사용했을 때 1.32배였던 비용 증폭도 1.02배로 낮아졌다.

정보 공개 계약 자체의 효과도 확인됐다. 저장된 실행 결과를 다시 평가한 오프라인 재현 제거 실험에서, 계약을 모두 적용한 방식은 일반적인 Gemma 재작성보다 유출을 일반 요청에서 36.3%, 공격 요청에서 54.1% 더 줄였다. 다만 공격 상황에서도 유출률이 18.79%로 남아 완전한 차단에는 이르지 못했다. 연구진이 로컬 재작성만으로 끝내지 않고 고위험 발송에 최종 검사기를 유지해야 한다고 본 이유다.

읽기 목록은 이 브라우저에 저장됩니다.