MS, AI 거버넌스 런타임 강제 집행 아키텍처 공개

ai.euno.news 자동 뉴스 요약

마이크로소프트가 AI 거버넌스를 문서화된 정책 수준에서 런타임 강제 집행 체계로 옮기는 아키텍처를 공개했다. 정책 문서를 만들어 두는 것과, 실제 운영 중인 AI 시스템이 그 정책을 지키고 있는지 관측하고 증명하는 것은 다른 문제라는 문제의식에서 출발한다. InfoQ에 따르면 이 아키텍처는 조직이 AI 애플리케이션과 에이전트를 프로덕션에 배포하면서 요구되는 지속적 평가, 관측성, 감사 증거 확보를 다룬다.¹

아키텍처는 정책(policy), 통제(control), 가시성(visibility), 증명(proof) 네 가지 기능을 하나의 운영 루프로 연결한다. 정책이 요구사항과 위험 등급을 정하면, 통제는 이를 접근 권한과 런타임 규칙으로 바꾸고, 관측성은 시스템 동작을 기록하며, 평가는 품질과 안전성을 테스트한다. 이렇게 쌓인 운영 텔레메트리는 감사 절차를 거쳐 컴플라이언스와 사고 조사에 쓸 수 있는 증거로 전환된다. 마이크로소프트의 클라우드 솔루션 아키텍트 마나사 T. 라말링가는 이를 소개하며, 프로덕션에 AI 워크로드를 올리는 조직들이 거버넌스를 사후 보완이 아니라 기초 구조 설계 단계부터 재검토하고 있다고 설명했다.¹

이 체계는 정책·데이터 거버넌스·모델 거버넌스·관측성·평가·보안·아이덴티티 및 접근 관리·감사 및 컴플라이언스·에이전트 거버넌스, 아홉 개 도메인을 포괄한다. 런타임 통제는 사용자, 에이전트, 모델, 도구, API, MCP 서버, 엔터프라이즈 시스템 간의 상호작용 전반에 걸쳐 적용된다. 실제 구현은 마이크로소프트 파운드리(Microsoft Foundry)를 중심으로 퓨리뷰(Purview), 엔트라 ID(Entra ID), 디펜더(Defender), 애저 API 매니지먼트(Azure API Management)를 결합하는 방식이다. 파운드리의 AI 게이트웨이는 인증, 토큰 한도, 할당량, 정책 집행이 이뤄지는 런타임 경계 역할을 하며, MCP 서버나 에이전트 코드를 수정하지 않고도 중앙집중형 인증과 속도 제한, IP 제한, 감사 로깅을 적용하는 데 쓰인다.¹

평가 기능은 배포 전과 배포 후 양쪽에 걸쳐 있다. 파운드리는 내장 평가기와 커스텀 평가기를 이용해 데이터셋 기준으로 애플리케이션과 에이전트의 품질·안전성을 사전에 검증하고, 이후 프로덕션 동작을 지속적으로 모니터링하는 기능을 제공한다. 마이크로소프트의 수석 클라우드 애드보킷 앤서니 바르톨로는 “프로덕션이 증명할 수 없다면 AI 정책은 거버넌스가 아니다”라고 밝히며, 정책이 규칙을 정의하고 런타임 통제가 이를 집행하며 관측성이 동작을 기록하고 평가가 품질과 안전을 검증한 뒤 감사가 텔레메트리를 증거로 바꾸는 순환 구조를 설명했다.¹

에이전트 거버넌스 영역에서는 에이전트의 신원, 접근 권한, 활동, 워크플로 체크포인트에 대한 통제가 추가된다. 마이크로소프트가 오픈소스로 공개한 에이전트 거버넌스 툴킷(Agent Governance Toolkit)은 자율 에이전트를 위한 런타임 보안 기능과 정책 집행 지점을 제공하며, 에이전트 제어 명세(Agent Control Specification)는 에이전트의 입력, 모델 호출, 도구 실행, 출력 각 단계에 체크포인트를 두어 영향도가 큰 작업에는 사람의 승인을 요구할 수 있도록 설계됐다.¹

이 아키텍처는 NIST의 AI 위험관리 프레임워크(AI RMF)와 생성형 AI 프로파일이 제시하는 벤더 중립적 거버넌스 개념을, 마이크로소프트 플랫폼의 구체적 통제와 운영 텔레메트리로 매핑한 것이라고 설명된다. 다만 이번에 공개된 내용은 마이크로소프트 자체 블로그 게시물과 직원들의 링크드인 게시글을 바탕으로 한 자사 아키텍처 소개다.

읽기 목록은 이 브라우저에 저장됩니다.