평범한 앱 400여 개에 성착취 딥페이크 기능

ai.euno.news 자동 뉴스 요약

반려동물 초상화나 외국어 학습, 인공지능(AI) 운동 코치처럼 꾸민 앱 수백 개가 사진 속 인물을 성적으로 합성하는 딥페이크 기능을 숨겨 제공한 사실이 드러났다. 와이어드 조사에 따르면 이 네트워크에는 서로 연결된 앱과 도메인 400여 개가 포함됐으며, 이용자가 특정 조건을 충족하면 노골적인 성적 이미지와 영상을 만드는 웹 화면을 불러왔다.¹

겉으로 드러난 기능은 평범했다. ‘비퍼(Viefur)’는 약 4달러에 디지털 코인 130개를 팔고, 반려동물 사진을 사람 옷을 입은 캐릭터로 바꿔 주는 앱을 표방했다. 하지만 숨겨진 화면에서는 이용자가 올린 사진으로 성적 합성물을 만들 수 있었다. 여기에는 남성이 여성의 목에 칼을 대는 장면이나 강간을 묘사한 장면도 선택지로 제시됐다.

앱은 설치한 사람 모두에게 같은 화면을 보여주지 않았다. 네트워크를 역설계한 비영리단체 AI 포렌식스(AI Forensics)의 폴 부쇼 연구원은 앱이 실행될 때 이용자의 유입 경로와 언어, 고유 식별자 등을 서버로 보내고, 서버가 일반 화면과 성인용 화면 중 무엇을 띄울지 결정한다고 설명했다. 정확한 판별 기준은 확인되지 않았지만, 메타(Meta)의 페이스북·인스타그램 광고를 누른 뒤 앱을 내려받는 행위가 성인용 기능을 여는 조건 가운데 하나로 보였다.

연구진은 노골적인 딥페이크를 담은 동영상 광고 수천 건을 추적하다 이 네트워크를 발견했다. 일부 광고에는 실제 아동과 유럽 왕실 구성원이 등장하는 AI 생성 아동 성착취물도 포함됐으며, 광고는 수만 명에게 노출됐다. 광고가 연결한 앱은 애플과 구글 앱스토어에 등록돼 있었고, 이용자는 애플페이와 구글페이로 결제할 수 있었다. 운영자는 약 1년 동안 앱을 배포했으며, 한때는 매주 수십 개씩 새 앱을 올린 것으로 조사됐다.

도메인과 서비스 운영 방식을 검토한 와이어드는 중국 개발자들과 홍콩 등록 법인 케링 테크놀로지(KeLing Technology Limited)가 배후에 있는 것으로 보인다고 보도했다. 다만 관련 이메일에는 답변이 없었고, 취재가 시작된 뒤 법인과 딥페이크 도구를 잇는 공개 흔적이 삭제된 정황이 나타났다. 따라서 운영 주체는 확정된 사실이 아니라 조사에 따른 추정이다. 애플·구글·메타는 유해 딥페이크를 금지하는 정책을 시행한다고 밝혀 왔지만, 이 사례는 일반 앱처럼 행동하다 조건부로 기능을 바꾸는 방식이 앱 심사와 광고 검수를 함께 우회할 수 있음을 보여준다.

읽기 목록은 이 브라우저에 저장됩니다.