OpenAI 정책책임자 "AI 안전 규제 입법 서둘러야"

ai.euno.news 자동 뉴스 요약

OpenAI의 크리스 레헤인 최고글로벌정책책임자(Chief Global Affairs Officer)가 9일(현지시간) 자사 블로그에 “AI 정책의 창이 열려 있다”는 제목의 글을 올려 의회와 각국 정부에 입법 속도를 높일 것을 촉구했다. 레헤인은 “정책의 완벽함보다 실질적 행동을 우선해야 할 때”라며, AI 역량이 새로운 단계에 접어든 만큼 정책도 그에 맞춰 새 장을 열어야 한다고 밝혔다.

레헤인이 제시한 실행 계획은 크게 네 갈래다. 첫째, 연방 의회와 협력해 역량 기준(capability-based)에 따른 의무적 국가 AI 안전 규제를 추진한다. 둘째, 연방 입법이 나오기 전까지 주(州) 단위 법안을 계속 지원한다. OpenAI는 이날 캘리포니아주 법안 네 건에 대한 지지를 발표했는데, 독립적 안전성 평가를 위한 인프라를 다루는 SB 813, AI 감사관 표준을 정하는 AB 1405, 청소년 보호를 위한 SB 1119, AI를 이용한 생물학적 위협에 대한 안전장치를 규정한 AB 1864다. 셋째, 정부 지원 여부와 무관하게 다른 프런티어(frontier) AI 기업들과 함께 업계 주도의 자율 표준을 마련한다. 넷째, 역량 측정 방식과 위험 관리, 인간 통제 유지, 개발 속도 조절 시점 등에 대해 국가 간 호환 가능한 국제 표준을 지지하겠다고 밝혔다.

이 같은 촉구의 배경에는 야쿠브 파초키 OpenAI 수석과학자의 최근 글이 있다. 파초키는 기계 지능이 빠르게 발전하고 있으며, 재귀적 자기개선(recursive self-improvement)의 가능성까지 포함해 “극도의 주의”가 필요하다고 경고한 바 있다. 레헤인은 이를 인용하며 개별 연구소 내부의 기술적 노력만으로는 충분하지 않고, 개발을 언제 어떻게 늦추거나 멈춰야 하는지에 대한 공유된 기준이 필요하다고 강조했다.

레헤인은 이번 정책 요구의 근거로 자사 시스템 아스트라(Astra)의 역량, AI 기반 연구 가속화의 초기 증거, 파초키의 경고를 함께 들었다. 다만 아스트라가 정확히 어떤 시스템인지에 대한 설명은 이번 글에 포함되지 않았다. 그는 그레그 브록먼 OpenAI 사장이 언급한 “방어자의 창(defenders window)” 개념을 정책 영역으로 확장해, 강력한 공격적 역량이 확산되기 전에 방어 시스템을 구축할 수 있는 한정된 시기가 있듯, 정책 당국에도 제도가 AI 역량을 따라잡기 전에 안전장치를 마련해야 하는 비슷한 창이 있다고 주장했다.

OpenAI는 이와 별개로 자체 안전장치도 강화했다고 밝혔다. 프런티어 연구 작업에 대한 격리 수준을 높이고, 도구 사용 훈련·평가 과정에서 모델 행동에 대한 감시를 확대했으며, 우려 사항을 상부에 보고하는 절차도 명확히 했다. 아스트라의 경우 사고 사슬(chain of thought)을 포함한 전체 추론 과정을 상시 감시하고, 내부 배포 확대 전 정렬(alignment) 평가를 의무적으로 거치도록 했다. 레헤인은 수용할 수 없는 안전 위험이 있다고 판단되면 준비 프레임워크(preparedness framework)에 따라 개발이나 배포를 늦추거나 중단하겠다고 밝히며, 이는 과거에도 실제로 시행한 조치라고 덧붙였다. 다만 완전 자율적인 재귀적 자기개선에 관한 구체적 언급은 자료 말미에서 문장이 끊긴 채로 남아 있어, 해당 부분의 세부 내용은 확인되지 않는다.

읽기 목록은 이 브라우저에 저장됩니다.