딥마인드·싱가포르, 기기 내 사기 탐지 AI 개발

ai.euno.news 자동 뉴스 요약

구글 딥마인드(Google DeepMind)와 싱가포르 정부기술청(GovTech Singapore)이 스마트폰에서 대화를 분석해 사기 징후를 경고하는 인공지능 모델을 공동 개발했다. 클라우드로 메시지를 보내지 않고 기기 안에서 처리하는 방식이다. 양측은 싱가포르 정부와 추진하는 국가 AI 파트너십의 하나로 경량 언어 모델 젬마(Gemma)를 현지 사기 수법에 맞게 미세조정했다.¹

싱가포르에서 투자 사기, 허위 구인, 공무원 사칭 등은 신고 범죄의 절반 이상을 차지한다. 2019년 이후 피해액은 40억 싱가포르달러를 넘었다. 특히 단순한 피싱 링크 대신 그럴듯한 대화를 이어가다 송금을 요구하는 사회공학형 사기가 늘었고, 이런 수법이 전체 손실액의 최대 80%를 차지한다. 범용 모델은 지역 기관과 은행, 유명인을 사칭하는 표현이나 유행하는 수법을 제대로 가려내기 어렵다. 개발진이 현지 사기 대화로 젬마를 조정한 이유다.¹

전력 소모를 줄이는 2단계 탐지#

모델은 두 단계로 작동한다. 먼저 전력 소비가 적은 경량 분류기가 들어오는 메시지를 훑어 잠재적 위험을 추린다. 위험 신호가 잡히면 미세조정한 젬마가 더 넓은 대화 구간을 분석해 조작 의도가 있는지 확인하고 오탐을 걸러낸다. 사기성 대화 패턴으로 판단하면 사용자의 기기에 즉시 경고를 띄워, 개인정보나 돈을 건네기 전에 멈추도록 유도한다.¹

클라우드에서 메시지를 검사하는 기존 방식과 달리 대화 내용은 기기 밖으로 나가지 않는다. 다만 애플리케이션에 실제로 탑재된 뒤에도 이용자가 동의한 경우에만 기기 내 대화에 접근한다. 구글과 싱가포르 정부는 배포 과정에서 사용자 대화를 열람할 수 없다는 설명이다. 도입은 싱가포르 정부와 함께 단계적으로 진행되며, 구체적인 적용 앱과 일정은 공개되지 않았다.¹

개발 과정에서도 데이터 격리를 택했다. 미세조정은 GovTech가 관리하는 구글 클라우드 플랫폼(GCP) 환경의 ‘소버린 샌드박스’에서 이뤄졌다. 시민의 개인정보와 개인 식별 정보는 학습에서 제외했고, 사기 신고와 정보 피드를 바탕으로 익명화한 데이터만 사용했다. 합성 대화와 현지 말뭉치로 다양한 사기 유형과 변화하는 사칭 수법도 시험했다. 다만 이는 개발 주체가 공개한 결과이며, 실제 환경에서의 탐지율과 오탐률, 배터리 사용량은 제시되지 않았다.¹

읽기 목록은 이 브라우저에 저장됩니다.