OpenAI, 국가안보 AI 감독기구 지원 이니셔티브 발표

ai.euno.news 자동 뉴스 요약

OpenAI가 정부의 국가안보 분야 AI 활용을 감시하는 감독기구를 지원하는 새 이니셔티브를 발표했다. 회사 블로그를 통해 공개한 이번 계획은 민주주의 국가의 감독기구가 정부의 AI 활용을 이해하고 감시할 수 있도록 전문성과 도구를 갖추게 돕는 것을 목표로 한다.¹

OpenAI는 이번 발표에서 AI가 사이버공격 차단, 핵심 기반시설 보호, 위협 조기 탐지 등 국가안보 업무를 실질적으로 강화할 수 있다고 밝혔다. 동시에 정부의 공권력 행사가 국민에게 책임지는 구조를 유지하려면 감독기구도 AI가 만들어내는 속도와 규모에 맞춰 역량을 키워야 한다고 지적했다. AI는 누락되거나 낡은 맥락, 잘못 설정된 목표, 어긋난 가정을 바탕으로도 빠르고 광범위하게 작동할 수 있어서, 문제가 퍼지기 전에 사람이 수작업으로 발견하기가 더 어려워진다는 게 회사의 설명이다. 종이 문서 시대의 방식으로 소수 인력이 기계 속도로 돌아가는 시스템을 검토하는 전통적 감독 방식은 사실상 한계에 부딪힌다는 문제의식이다.

OpenAI는 스스로도 이 원칙을 적용한다고 설명했다. 자체 대비 프레임워크(Preparedness Framework)에 따라 고성능 모델은 배포 전 역량과 안전장치 충분성을 검토받고, 배포 이후에도 지속적인 모니터링과 사고 검토를 거친다. 다만 회사는 이번 이니셔티브가 정부에 대한 감독 역할을 자임하는 것은 아니라고 선을 그었다. 정부 행위의 적법성과 적절성을 판단하는 책임은 선출직 공직자와 법적으로 구성된 감독기구에 있으며, OpenAI는 그 기구들이 기존 권한을 수행하는 과정을 기술적으로 지원하는 역할에 그친다는 설명이다.

이번 작업은 세 가지 원칙을 따른다.

• AI는 인간과 기관의 판단을 대체하는 것이 아니라 강화하는 데 쓰여야 한다.
• 정부의 AI 활용은 권한을 가진 감독기구가 추적하고 이해할 수 있는 형태여야 한다. 기밀·개인정보·안보 민감 정보는 보호하되, AI가 의사결정에 어떻게 관여했는지는 검토자가 파악할 수 있어야 한다.
• AI는 민주적 감독기구의 역량을 키우는 방향으로 쓰여야 한다. 수작업 감독은 확장에 한계가 있으므로, 감독기구 스스로도 책임 있고 이해 가능한 방식으로 AI를 활용해야 한다는 것이다.

OpenAI는 향후 1년간 세 가지 실행 계획을 제시했다. 권한을 가진 정부 관계자들과 협력해 AI 도구나 기술 지원이 감독 효율을 높일 수 있는 지점을 찾고, 민주주의 국가 정부 감독기구에 교육·기술 지원·OpenAI 크레딧 명목으로 500만 달러를 제공하며, AI가 관여한 정부 결정과 관련된 입력값·출력값·도구 사용 기록을 검토자가 살펴볼 수 있도록 돕는 도구를 감독기구와 함께 시범 운영하겠다는 내용이다.

발표 자료에는 구체적으로 어떤 국가나 기관과 협력하는지, 500만 달러 지원이 어떤 기준으로 배분되는지에 대한 세부 사항은 나와 있지 않다. 이 부분이 실제로 어떻게 구체화되는지는 향후 진행 상황을 지켜봐야 확인할 수 있다.

읽기 목록은 이 브라우저에 저장됩니다.