ai.euno.news
패밀리 사이트

새 글 수는 최근 24시간 발행 기준입니다.

AI 소식을 출처와 함께

메뉴

앤스로픽, 고위험 AI 공개 중단 법안 제안

2분 앤스로픽AI 안전상무부규제
최근 30일 조회수 — 좋아요 —

ai.euno.news 자동 뉴스 요약

핵심 요약

대규모 인명·재산 피해가 우려될 때 법원이 AI 모델 공개를 중단하도록 하는 법안을 제안했다.

앤스로픽, 고위험 AI 공개 중단 법안 제안 — 기사 주제를 표현한 AI 생성 개념 삽화
AI 생성 개념 삽화 · 실제 사건을 촬영한 사진이 아닙니다.

앤스로픽(Anthropic)이 대형 인명·재산 피해가 예상될 때 미국 연방 상무부가 법원에 인공지능(AI) 모델 공개 중단을 청구할 수 있도록 하는 안전 법안을 제안했다. 다만 발동 기준은 피해액 10억 달러 또는 사망·부상자 50명 초과로 높게 잡혔다. 상무부를 제외한 다른 연방 부처와 기관, 공무원은 AI 연구소에 모델 공개 중단을 명령할 수 없다는 조항도 담겼다.1

법안이 겨냥하는 위험은 생물무기의 제작·방출, AI를 이용하거나 AI가 지원하는 사이버 공격, 연구소가 모델이나 AI 에이전트의 통제권을 잃는 사태다. 이런 사건이 임박했을 가능성이 있다고 판단되면 평가기관은 72시간 안에 상무부에 보고해야 한다. 이후 상무부가 증거를 워싱턴DC 연방지방법원 판사에게 제출하고, 판사가 모델 공개를 멈출지 결정한다. 따라서 상무부가 직접 최종 중단 결정을 내리는 구조는 아니지만, 정부 기관 가운데 법적 절차를 시작할 수 있는 통로를 사실상 독점한다.1

위험 평가는 상무부에 등록한 독립된 제3자가 연구소와 모델을 정기적으로 점검하는 방식이다. 연구소가 평가 비용을 지급할 수 있으나, 대가가 평가기관의 독립성에 영향을 줘서는 안 된다. 누가 독립성 침해 여부를 판단하고 어떻게 집행할지는 제공된 자료에 구체적으로 나오지 않는다.1

앤스로픽 대변인은 이 법안이 회사가 6월부터 연방 및 주 의회에 제안해 온 ‘첨단 AI 프레임워크(Advanced AI Framework)’를 반영했으며, 의회가 처리해야 할 합리적인 정책이라고 밝혔다. 그러나 50명이 넘는 인명 피해나 10억 달러 손실이라는 문턱 아래의 사고에는 공개 중단 절차가 적용되지 않는다는 점이 핵심 한계다. 다른 기관의 개입까지 차단하는 조항도 권한을 명확히 한다는 장점과 대응 수단을 한곳에 집중한다는 위험을 함께 안는다.1

Footnotes

  1. Hacker News, “Anthropic’s proposed AI safety bill only kicks in if 50 deaths or $1 billion in damages are on the line — proposal would effectively make the Commerce Department the only agency capable of stopping an AI model” ↩ ↩2 ↩3 ↩4

읽기 목록은 이 브라우저에 저장됩니다.

출처

  1. Anthropic’s proposed AI safety bill only kicks in if 50 deaths or $1 billion in damages are on the line — proposal would effectively make the Commerce Department the only agency capable of stopping an AI model — Hacker News

이 글은 위 출처를 근거로 자동 생성된 뒤 발행됐습니다. 원문을 함께 확인해 주세요. 교차 보도 없이 단독 출처로 작성됐습니다.

관련 글