앤스로픽, 외부 AI 평가자에 내부 접근권

ai.euno.news 자동 뉴스 요약

앤스로픽(Anthropic)이 비영리 AI 평가기관 METR 소속 평가자 6명에게 자사 직원에 준하는 접근 권한을 제공한다. 프런티어 모델을 만드는 기업이 외부 평가자를 내부에 상주시켜 안전성을 검증하도록 한 것은 업계 최초다. 외부 평가자가 내부 위험평가팀과 비슷한 조건에서 감사를 수행하도록 하겠다는 시도다.¹

METR 평가자들은 앤스로픽의 하드웨어와 사무 공간을 사용하고, 사내 위험평가팀이 다루는 수준의 도구와 시스템에 접근한다. 고객 데이터와 변호사·의뢰인 간 비밀정보, 모델 아키텍처처럼 사전에 정한 일부 범주는 제외된다. 그 밖의 정보는 앤스로픽 직원들이 정렬 위험을 담당하는 동료에게 하듯 METR과 공유하도록 권고받는다.¹

이 방식은 AI 기업과 외부 평가기관 사이의 정보 격차를 줄이는 데 초점을 맞춘다. 앤스로픽은 안전 활동과 관련된 정보를 모두 공개하기 어렵다고 설명했다. 악의적 행위자에게 도움이 될 수 있는 내용뿐 아니라 컴퓨팅 자원이나 학습 방식처럼 상업적으로 민감한 정보도 포함되기 때문이다. METR은 이런 내부 자료와 모델을 직접 살핀 뒤 모델이 초래할 위험에 관한 결론을 공개한다. 앤스로픽은 결과 발표를 막을 수 없지만, 민감한 정보가 포함되면 삭제를 요청할 수 있다.¹

이번 조치는 최고경영자 다리오 아모데이(Dario Amodei)가 지난 9월 제안한 구상을 실행한 것이다. 그는 프런티어 AI의 개발 속도를 관리하는 방안 가운데 하나로 METR 같은 비영리기관 평가자의 상주를 제시했다.¹

다만 외부 안전평가는 아직 미국 법률상 의무가 아니다. 주요 AI 기업들이 미국 정부와 모델 위험 공유 및 외부 감사에 관한 약속을 맺었지만 구속력은 없다. 7월 발의된 초당적 법안 프런티어법(FRONTIER Act)은 일부 AI 기업이 독립 검증기관의 개발 과정 안전성 심사를 허용하도록 요구하지만, 자료에 따르면 아직 제안 단계다.¹

읽기 목록은 이 브라우저에 저장됩니다.