정부가 선거를 겨냥한 딥페이크(이미지·음성 합성기술) 영상·음성 조작 범죄에 대응하기 위해 AI(인공지능) 기반 탐지 기술을 선거 현장에 본격적으로 활용한다.
행정안전부는 국립과학수사연구원과 개발한 'AI 딥페이크 탐지 모델'을 6월 실시되는 제9회 전국동시지방선거에 적용할 계획이라고 밝혔다.
이번 조치는 최근 특정 인물의 얼굴이나 음성을 정교하게 합성한 딥페이크 범죄가 급증하면서, 선거 과정에서 후보자의 발언이나 모습을 조작한 허위 정보가 유권자의 판단을 왜곡하는 것을 방지하기 위해 마련됐다.
이번에 도입되는 탐지 모델은 지난해 12월 열린 '딥페이크 범죄 대응을 위한 AI 탐지 모델 경진대회'의 성과를 바탕으로 개발됐다. 당시 대회에는 총 268개팀, 1077명이 참여했으며, 행안부와 국과수는 이 가운데 최종 선정된 5개 우수 모델을 중앙선거관리위원회에 제공해 선거 기간 의심 콘텐츠를 신속하게 감정할 수 있도록 지원할 방침이다.
탐지 모델은 영상의 전체 흐름을 분석하는 '전역 분석'과 얼굴 등 특정 부위의 조작 흔적을 정밀하게 판별하는 '국소 분석'을 동시에 수행하는 방식으로 정확도를 높였다. 또한 최신 생성형 AI 기반 콘텐츠에도 대응할 수 있도록 설계됐으며, 실제 검증 결과 약 92% 수준의 탐지 정확도를 기록했다.
행안부와 국과수는 앞으로 AI 딥페이크 분석 모델의 활용 범위를 단계적으로 확대할 계획이다. 성평등가족부, 방송통신위원회, 경찰청 등 관계 부처와 협력해 범정부 차원의 디지털 범죄 대응 체계를 강화하고, 지속적으로 진화하는 AI 기반 범죄에 선제적으로 대응한다는 방침이다.
윤호중 행안부 장관은 "AI 기술로 제작된 딥페이크 가짜뉴스가 선거 민주주의를 심각하게 위협하고 있다"며 "정부는 국민의 권리가 침해되지 않도록 선거 과정에서 허위·조작 정보에 대한 대응 역량을 지속적으로 강화해 나가겠다"고 말했다.