AI 오류 통제하는 선택적 감사 기법 제안

ai.euno.news 자동 뉴스 요약

AI가 내놓은 의사결정을 모두 사람이 검토하지 않고도, 검토를 거치지 않은 오류의 비율을 정해진 기준 아래로 통제하는 ‘선택적 감사’ 기법이 제안됐다. 10월 22일 arXiv에 공개된 논문은 사람의 감사 빈도를 최소화하면서도 AI 오류를 놓칠 위험을 제한하는 문제를 온라인 제약 최적화로 정식화했다.¹

연구진이 상정한 환경에서는 AI가 의사결정과 함께 그 결정이 믿을 만한지를 나타내는 신뢰 점수를 차례로 출력한다. 의사결정과 점수를 꼭 같은 모델이 만들 필요는 없다. 예컨대 한 에이전트가 결정을 제안하고, 별도의 검증 에이전트가 정확성이나 안전성을 평가할 수 있다. 시스템은 두 정보를 바탕으로 결정을 자동 수용할지, 인간 감사자 같은 전문가에게 넘길지를 매번 선택한다. 전문가는 제안을 검토한 뒤 그대로 승인하거나 잘못된 부분을 바로잡는다.

핵심은 전체 오류율이 아니라 ‘감사를 받지 않고 지나간 AI 오류가 전체 AI 오류에서 차지하는 비율’을 사용자가 지정한 한도 안에 묶는 데 있다. 모든 출력을 검토하면 오류를 잡기는 쉽지만 비용이 커지고, 신뢰 점수만 보고 고정된 기준으로 걸러내면 실제 입력 흐름이 달라질 때 통제가 흔들릴 수 있다. 논문은 별도의 분포 가정 없이 오류 통제를 보장하는 알고리즘군을 제시한다. 이 가운데 한 방법은 적대적으로 구성된 데이터 흐름과 독립·동일분포(i.i.d.) 데이터 흐름 모두에서, 장기적으로 달성 가능한 최저 감사율에 도달한다는 이론적 성질을 갖는다.

연구진은 대규모 언어 모델에 들어오는 유해 요청 선별, 정성적 텍스트 주석, 데이터 라벨링에 기법을 적용했다. 논문 초록에 따르면 실험에서 정해진 오류 통제를 유지하면서 기존 기준선보다 인간 감사 필요량을 크게 줄였다. 다만 공개된 자료에는 감소 폭이나 데이터셋별 결과가 제시되지 않아, 비용 절감 규모와 조건별 성능은 판단하기 어렵다. 또 이 결과는 2026년 10월 제출된 arXiv 사전논문을 바탕으로 하며, 동료평가 여부는 자료에서 확인되지 않는다.

읽기 목록은 이 브라우저에 저장됩니다.