"한번 퍼지면 못 지운다"…AI 성범죄 대응 '예방 중심' 전환 목소리'

AI(인공지능) 기술이 확산되면서 디지털 성폭력 대응 방식을 범죄물 삭제 중심의 사후 조치에서 사전 예방 중심으로 전환해야 한다는 전문가 제언이 나왔다.

한국여성정책연구원은 오는 16일 오후 2시 'AI 시대 디지털 젠더폭력 대응 정책의 전환 모색: 사후 조치에서 사전 예방으로'를 주제로 기념 세미나를 개최한다.

김종숙 여성정책연구원장은 지난 14일 열린 기자간담회에서 "디지털 젠더폭력에 대한 정책 수요가 다양해지고 여러 부처 간 협업 필요성도 높아진 상황"이라며 "올해를 디지털 젠더폭력 대응 역량을 결집하는 해로 만들기 위해 해당 주제를 선정했다"고 세미나 배경을 설명했다.

이번 세미나에서는 △디지털 젠더폭력 예방을 위한 성인지적 AI 설계 원칙 및 정책 과제 △아동·청소년 성착취물 유포 방지를 위한 플랫폼 책임성 강화 방안 △AI 기반 성범죄의 법적 공백 진단과 새로운 규율 원칙 탐색 등 3개 주제 발표가 순차적으로 진행된다.

첫 발표를 맡은 김애라 연구위원은 기자간담회에서 "지금까지 디지털 성범죄 대응은 삭제 지원에 기반했는데, 이는 전형적인 사후 조치에 해당한다"며 "한번 유포된 범죄물은 구조적으로 완전한 삭제가 어렵다"고 진단했다.

김 연구위원은 "이 같은 한계로 인해 새로운 유형의 AI 기반 범죄를 사전에 진단하고 기술적으로 개입하는 접근이 필요해졌다"며 "AI 설계 단계에서 젠더폭력과 차별 이슈가 어떻게 반영되는지 분석한 결과, 거대언어모델(LLM)이 생성하는 언어에는 젠더폭력적 표현이 내재돼 있지만 이를 탐지·평가할 한국어 기반의 표준화된 분류 체계는 부재한 실정이었다"고 지적했다.

특히 "현재 글로벌 AI 컨소시엄에서는 차별 문제를 포함한 안전성 기준을 마련해가고 있으나 국내에서는 해외에 상응하는 젠더폭력 방지 평가 기준 자체가 부재하다"며 "국내에서도 AI 개발 단계부터 안전 설계를 의무적으로 적용하고 젠더폭력 방지 평가 기준을 구축할 필요가 있다"고 강조했다.

'플랫폼 책임성 강화 방안' 연구를 수행한 정연주 부연구위원은 "2년 전 연구에서 미성년자 약 3분의1이 인터넷에서 낯선 사람과 대화한 경험이 있었고 이들 중 약 3분의1은 성적 대화를 경험하거나 제안받은 적이 있었다"며 "그럼에도 10세부터 29세까지 응답자 중 약 5분의1만 플랫폼에서 디지털 위험 관련 경고 메시지를 받은 것으로 나타났다"고 설명했다.

정 부연구위원은 "플랫폼이 과연 충분한 책임을 다하고 있는지 점검이 필요한 시점"이라며 "아동·청소년이 자신의 사진을 게시하기 전 디지털 성착취 위험을 인지할 수 있도록 안내하는 등 플랫폼의 사전적 책임을 강화해야 한다"고 제안했다.