'피해자 보호 기술'의 공공재화
서울시는 전국 최초로 독자 개발해 온라인상에 유포된 성착취물 탐지해 제거하는 '디지털 성범죄 AI(인공지능) 삭제지원' 기술의 전국화에 나선다고 2일 밝혔다.
시는 오는 3일 첫 번째 무상 기술이전 계약을 시작으로, 기술 전수를 원하는 전국의 정부기관, 지자체, 기업 등에 '디지털 성범죄 AI 삭제지원' 기술을 무상으로 보급한다. 시가 개발한 해당 기술은 AI가 24시간 실시간 모니터링을 통해 각종 불법사이트와 SNS(소셜 미디어) 상의 피해 영상물을 자동으로 검출해, 보다 빠르게 영상물을 삭제하고 재유포를 막는 기술이다.
시에 따르면 그동안 사람이 육안으로 일일이 찾아내서 신고하는 방식에 비해 처리시간은 3시간에서 단 6분으로 단축돼 처리속도가 30배나 빨라지고, 정확도도 200~300% 개선된다. 시는 AI 삭제지원 기술의 무상 보급으로 기관당 약 1억 8000만원의 예산 절감 효과가 있을 것으로 보고 있다.
무엇보다도 AI 기술 도입으로 피해 영상물을 매일 봐야 하는 직원들의 심리적 고통을 최소화하는 효과도 있다. AI가 피해 영상물을 블러(흐림) 처리한 후 삭제지원관에게 전달할 뿐 아니라 반복적인 불법 영상 검색 업무를 대신 수행한다. 시는 이번 AI 기술 무상보급을 특정 기관이나 일부 지역에 한정하지 않고, 공익 목적에 한해 정부기관과 지자체 등에서 폭넓게 활용할 수 있도록 지원할 계획이다. 또 국경을 넘어 유포되는 디지털성범죄의 특성을 고려해서 국내뿐 아니라 해외 비영리 기관과도 협력할 예정이다.
마채숙 서울시 여성가족실장은 "디지털 성범죄 AI 삭제기술 무상보급을 통해 전국 어디서나 동일한 수준의 신속하고 실질적인 지원을 받을 수 있게 되기를 기대한다"라고 말했다.
