SEC 공시, AI 사회적 피해 위험은 2%만 반영
최근 30일 조회수 — 좋아요 —핵심 요약
AI 사고 1,901건 분석 결과, 기업 SEC 공시는 시스템 장애보다 제3자의 사회적 피해 위험을 거의 담지 않았다.

기업이 미국 증권거래위원회(SEC)에 공개하는 인공지능(AI) 위험이 실제 피해 양상을 선택적으로 반영한다는 연구 결과가 나왔다. 11월 19일 아카이브(arXiv)에 공개된 논문은 기업 공시 전후를 비교할 수 있는 AI 사고 1,901건 가운데 절반이 해당 기업이 한 번도 공개하지 않은 위험 유형에 속했다고 밝혔다. 특히 시스템 장애와 사회적 피해 사이에서 공개 비율이 크게 갈렸다.1
연구진은 AI를 제공하거나 도입한 기업 328곳의 SEC 공시 1만8,229건과 AI 사고 9,001건을 위험 유형별로 연결했다. 이 가운데 사고 전후 공시가 모두 있어 변화를 살필 수 있는 사례가 1,901건이었다. 분석 결과 기업 공시에는 시스템 장애에 해당하는 위험 유형의 67%가 등장했지만, AI가 작동하는 사회적 환경에서 발생한 피해 유형은 2%만 포함됐다.
이 차이는 SEC 공시가 누구의 위험을 기준으로 삼는지와 맞물린다. SEC 등록 기업은 허위 기재에 법적 책임이 따르는 공시에서 중대한 위험을 밝혀야 한다. 그러나 중대성은 ‘합리적인 투자자가 중요하다고 판단할 정보’를 기준으로 정해진다. 이용자나 제3자가 입은 피해도 기업의 손실이나 책임으로 이어져야 공시에 들어갈 가능성이 커진다는 뜻이다. 연구진은 증권 공시가 AI의 영향을 받는 사람이 겪는 피해보다 AI 기업이 직면한 위험을 기록한다고 해석했다.
사고를 기업이 직접 보고하는 비율도 2%에 못 미쳤다. 따라서 SEC 공시만으로 AI 피해의 전체 규모나 분포를 파악하기는 어렵다. 다만 이번 결과는 기업이 개별 사고를 숨겼는지를 판정한 것이 아니라, 사고의 위험 유형이 공시에 나타났는지를 비교한 분석이다.
연구진은 공공기관이 제3자 피해에 기업 책임을 부과하면 이런 피해가 기업의 재무 위험으로 바뀌어 공시에 반영될 수 있다고 제안했다. 분석에 사용한 공개·사고 증권 말뭉치 DISC(Disclosure–Incident Securities Corpus)도 함께 공개했다.1
Footnotes
읽기 목록은 이 브라우저에 저장됩니다.
출처
- Whose Risks Count? What 1,901 AI Incidents Reveal About Corporate Disclosures — arXiv (cs.AI/cs.CL/cs.LG)
이 글은 위 출처를 근거로 자동 생성된 뒤 발행됐습니다. 원문을 함께 확인해 주세요. 교차 보도 없이 단독 출처로 작성됐습니다.