與, 아청법 일부 개정안 발의...기준 명확화, 형량 현행법 동일
제작 단계 실효성 등 한계 지적
AI(인공지능)가 생성한 아동 성착취물을 실제 아동 성착취물과 동일하게 처벌하도록 하는 법 개정이 국내에서 처음 추진된다. X(옛 트위터)와 연동된 챗봇 '그록'의 아동 딥페이크(이미지·음성합성기술) 이미지 생성논란을 계기로 처벌기준을 명확히 하자는 취지다.
23일 국회 의안정보시스템에 따르면 차지호 더불어민주당 의원 등 12명은 지난 2일 '아동·청소년의 성보호에 관한 법률'(이하 아청법) 일부개정안을 발의했다.
개정안은 AI로 제작된 아동 성착취물을 '성적 디지털 위조물'로 규정하고 법률상 아동 성착취물의 범위에 명시적으로 포함하는 내용을 골자로 한다. AI 관련내용을 반영한 아청법 개정안이 발의된 것은 처음이다. 현행법은 아동 성착취물을 제작·수입·수출한 경우 5년 이상의 유기징역 또는 무기징역에 처하도록 규정했다.
법안이 통과되면 AI로 합성·변조한 아동·청소년의 신체 이미지나 영상에도 실제 미성년자를 대상으로 한 성착취물과 동일한 형량이 적용된다. 다만 현행법 체계에서도 AI 생성물 처벌은 가능하다. 촬영이 없더라도 아동·청소년으로 명백히 인식될 수 있는 인물이 등장해 성적행위를 하는 경우 성착취물로 본다는 규정이 이미 존재하기 때문이다.
그동안 AI 기반 범죄에 대한 선고형은 비교적 낮은 편이었다. 2023년 40대 남성 A씨도 이미지 생성 프로그램에 '열 살' '나체' '어린이' 등의 문구를 입력해 관련 영상을 만든 혐의로 기소됐으나 부산지방법원에서 징역 2년6개월을 선고받았다. 2024년 10월 AI 프로그램으로 성착취물을 제작한 B씨는 수원지방법원에서 징역 2년6개월에 집행유예 3년을 선고받았다.
아동 성착취물 제작은 중대범죄로 분류되지만 AI 합성물의 경우 실제 피해아동이 존재하지 않는다는 점에서 감경이 이뤄진 것으로 분석된다. 법정 최소형이 5년이어도 법원이 정상참작 사유를 인정해 형을 감경하면 3년 이하의 형이 선고될 수 있다. 이 경우 집행유예도 가능하다.
이번 개정안은 세계적으로 AI 생성 성착취물을 둘러싼 우려가 확산하는 흐름과 맞물려 나왔다. 지난해 12월 일론 머스크가 이끄는 AI기업 xAI의 챗봇 '그록'이 딥페이크 기술을 활용해 비키니 차림의 아동 이미지를 생성했고 해당 게시물이 X를 통해 확산하며 논란이 일었다. 일부 사진에는 1~2세 영유아로 보이는 이미지도 포함된 것으로 알려졌다. 이후 영국 정부는 성착취 이미지 등 불법 콘텐츠가 신고될 경우 48시간 이내 삭제하도록 플랫폼사업자에 의무를 부과하는 방안을 추진 중이다.
법이 개정되면 AI 아동 성착취물에 대한 처벌규정이 명확해질 것으로 기대되지만 실효성을 둘러싼 신중론도 존재한다. 생성형 AI가 보편화된 상황에서 제작단계에서 적발하기 쉽지 않다는 지적이다. 실제 촬영물 역시 대부분 유통과정에서 적발되는 현실을 고려하면 단속에는 구조적 한계가 있다는 목소리도 나온다.
