탐지 소프트웨어·영상분석·AI 포렌식 '3중 대응체계' 구축
선거범죄 등 디지털 성범죄 외 수사에도 활용 확대
#1. 경찰은 최근 SNS(소셜미디어)를 통해 성착취 허위영상물을 제작·판매한 20대 남성을 검거했다. 이후 영상을 만들어달라고 의뢰한 사람을 추적하는 과정에서 기존과 다른 패턴의 허위영상물을 발견했다. 경찰은 딥페이크 탐지 소프트웨어와 AI(인공지능) 디지털 포렌식 기법을 활용해 영상 제작에 쓰인 프로그램과 원본 사진을 확보했다. 현재 의뢰자의 제작 혐의까지 수사하고 있다.
#2. 지난 3월에는 '해외 성인사이트에 자신의 사진을 합성한 성적 허위영상물이 올라왔다'는 피해 신고가 잇따라 경찰에 접수됐다. 경찰은 유포된 사이트를 대상으로 범행 계정과 게시물을 삭제하도록 했고, 확보한 영상물을 자체 딥페이크 탐지 소프트웨어로 분석해 동일인이 제작한 정황을 포착했다. 수사 끝에 20대 남성을 붙잡아 구속 송치했다.
경찰은 이처럼 수법이 빠르게 진화하는 딥페이크 범죄에 대응하기 위해 관련 탐지·분석 기술을 고도화하고 있다.
13일 경찰에 따르면 경찰청 국가수사본부는 △딥페이크 탐지 소프트웨어 판별 △과학수사 영상분석관 판독 △AI 범행도구 분석으로 이어지는 '3중 대응체계'를 구축해 운영하고 있다. 이를 활용해 올해 1~7월 허위영상물 범죄 피의자 419명을 검거했고 이 중 17명을 구속했다.
경찰이 활용하는 딥페이크 탐지 소프트웨어는 얼굴 생성·교체 여부와 눈 깜빡임·혈류 변화 등 생물학적 특징, 파일 메타데이터 구조 등을 종합적으로 분석해 영상의 합성 여부를 판별한다. 국내 허위영상물 탐지에 특화된 AI 모델도 탑재됐다.
이 소프트웨어는 개발 이후 현재까지 총 1636건의 수사에 활용됐다. 올해는 선거범죄 등 디지털 성범죄 이외 수사에도 72건 사용되며 활용 범위를 넓히고 있다.
탐지 소프트웨어만으로 조작 여부를 판단하기 어려운 경우에는 과학수사 영상분석관이 별도의 영상 분석 프로그램을 활용해 위·변조 여부를 추가로 검증한다.
경찰은 딥페이크 제작에 악용되는 상용 AI 프로그램의 특성을 분석하는 'AI 포렌식 기법'도 개발해 수사에 활용하고 있다. 시·도경찰청 소속 전문분석관이 피의자가 어떤 프로그램으로 영상을 조작했는지, 어느 부분을 변경했는지 등을 분석해 제작부터 유포까지 범행 과정을 재구성한다. 이를 통해 여죄를 확인하거나 범행의 고의성을 입증하는 증거로 활용한다.
경찰은 앞으로 딥페이크 탐지·분석 기술을 디지털 성범죄뿐 아니라 허위정보 유포와 전기통신금융사기 등 AI를 악용한 범죄 전반으로 확대할 계획이다.
독자들의 PICK!
경찰청 국가수사본부 관계자는 "기술이 진화하는 속도 이상으로 경찰의 대응 기술을 발전시켜 나가고 있다"며 "관련 시스템 고도화와 집중단속을 통해 허위영상물 범죄에 무관용 원칙으로 강력 대응하겠다"고 밝혔다.
