입 모양에 목소리까지 다 따져본다…경찰, 'AI 조작물' 탐지시스템 고도화

경찰이 딥페이크 등 인공지능(AI)을 활용한 불법 조작물을 가려내기 위해 영상뿐 아니라 음성과 자막까지 함께 분석하는 탐지 시스템을 개발한다. 전국 시도경찰청에 전문 인력을 배치해 조작물 분석 역량도 강화한다.

경찰청 국가수사본부는 15일 이 같은 내용의 'AI 불법 조작물 탐지·분석체계 고도화 기본계획'을 수립해 시행한다고 밝혔다.

이번 계획은 딥페이크 성범죄를 넘어 명예훼손과 투자사기, 보이스피싱 등으로 확산하는 AI 악용 범죄에 대응하기 위해 마련됐다. 경찰은 조작물 정밀 탐지 시스템 구축과 자동화 분석 도구 개발, AI 전문분석관 운영 등 8개 과제를 추진한다.

우선 영상과 이미지뿐 아니라 음성·문자까지 종합적으로 분석하는 차세대 딥페이크 탐지 시스템을 구축한다. 영상 속 인물의 입 모양과 목소리가 일치하는지, 음성과 자막의 내용이 같은지 등을 분석해 조작 여부를 판별하는 방식이다.

경찰은 2024년 딥페이크 탐지 시스템을 도입한 뒤로 한국인 특성에 맞는 자료를 학습시켜 탐지 성능을 개선하고 있다. 현재 2027년까지 91억원을 투입하는 연구개발 사업을 진행 중이다. 개발이 완료되면 다른 수사기관이 공동으로 활용할 수 있는 시스템도 구축할 계획이다.

AI를 이용한 조작물의 생성·유포 과정을 추적하는 기술도 강화한다. 생성형 AI 프로그램의 실행 이력과 명령어 기록을 분석하고 조작에 사용된 프로그램을 식별하는 기법 등을 개발한다.

범행 과정에서 디지털 증거를 자동으로 추출하는 도구도 개발한다. 이를 위한 연구개발 사업에는 올해부터 2029년까지 100억원이 투입된다.

전문 인력도 확충한다. 경찰은 전국 시도경찰청에 조작물 분석에 특화된 'AI 전문분석관'을 배치하고 현장 수사관을 대상으로 전문교육을 확대할 방침이다. 민간·정부·학계 전문가들과 협력체계를 구축해 최신 AI 기술 동향과 탐지 사례 등도 공유하기로 했다.

김종철 경찰청장 직무대행은 "AI를 이용한 범죄 수법이 빠르게 변하는 만큼 경찰의 대응도 달라져야 한다"며 "AI로 만든 가짜를 신속하게 찾아내는 것은 물론, 어떻게 만들어지고 유포됐는지까지 효과적으로 추적할 수 있는 첨단 수사 역량을 갖춰 국민이 안심하고 AI 기술을 이용할 수 있도록 하겠다"고 밝혔다.