인공지능(AI)이 생성한 아동 성착취물을 실제 아동 성착취물과 동일하게 처벌하도록 하는 법 개정이 국내에서 처음 추진된다. X(구 트위터)와 연동된 챗봇 '그록'의 아동 딥페이크 이미지 생성 논란을 계기로 처벌 기준을 명확히 하자는 취지다.
23일 국회의안정보시스템에 따르면 차지호 더불어민주당 의원 등 12명은 지난 2일 '아동·청소년의 성보호에 관한 법률'(아청법) 일부개정안을 발의했다.
개정안은 AI로 제작된 아동 성착취물을 '성적 디지털 위조물'로 규정하고 법률상 아동 성착취물의 범위에 명시적으로 포함하는 내용을 골자로 한다. AI 관련 내용을 반영한 아청법 개정안이 발의된 것은 이번이 처음이다. 현행법은 아동 성착취물을 제작·수입·수출한 경우 5년 이상의 유기징역 또는 무기징역에 처하도록 규정하고 있다.
법안이 통과되면 AI로 합성·변조한 아동·청소년의 신체 이미지나 영상도 실제 미성년자를 대상으로 한 성착취물과 동일한 형량이 적용된다. 다만 현행법 체계에서도 AI 생성물 처벌은 가능하다. 촬영이 없더라도 아동·청소년으로 명백히 인식될 수 있는 인물이 등장해 성적 행위를 하는 경우 성착취물로 본다는 규정이 이미 존재하기 때문이다.
그동안 AI 기반 범죄에 대한 선고형은 비교적 낮은 편이었다. 2023년 40대 남성 A씨도 이미지 생성 프로그램에 '10살', '나체', '어린이' 등의 문구를 입력해 관련 영상을 만든 혐의로 기소됐으나 부산지방법원에서 징역 2년6개월을 선고받았다. 2024년 10월 AI 프로그램으로 성착취물을 제작한 B씨는 수원지방법원에서 징역 2년6개월에 집행유예 3년을 선고받았다.
아동 성착취물 제작은 중대 범죄로 분류되지만 AI 합성물의 경우 실제 피해 아동이 존재하지 않는다는 점에서 감경이 이뤄진 것으로 분석된다. 법정 최소형이 5년이어도 법원이 정상 참작 사유를 인정해 형을 감경하면 3년 이하의 형이 선고될 수 있다. 이 경우 집행유예도 가능하다.
이번 개정안은 세계적으로 AI 생성 성착취물을 둘러싼 우려가 확산되는 흐름과 맞물려 나왔다. 지난해 12월 일론 머스크가 이끄는 AI 기업 xAI의 챗봇 '그록'이 딥페이크 기술을 활용해 비키니 차림의 아동 이미지를 생성했고, 해당 게시물이 X를 통해 확산되며 논란이 일었다. 일부 사진에는 1~2세 영유아로 보이는 이미지도 포함된 것으로 알려졌다. 이후 영국 정부는 성착취 이미지 등 불법 콘텐츠가 신고될 경우 48시간 이내 삭제하도록 플랫폼 사업자에 의무를 부과하는 방안을 추진 중이다.
법이 개정되면 AI 아동 성착취물에 대한 처벌 규정이 명확해질 것으로 기대되지만 실효성을 둘러싼 신중론도 존재한다. 생성형 AI가 보편화된 상황에서 제작 단계에서 적발하기는 쉽지 않다는 지적이다. 실제 촬영물 역시 대부분 유통 과정에서 적발되는 현실을 고려하면 단속에는 구조적 한계가 있다는 목소리도 나온다.
성평등가족부 관계자는 "AI를 이용한 성착취물은 제작 시점에 포착하기 어렵고 가상 인물이라 하더라도 외형상 아동·청소년에 해당하는지 판단하는 데 어려움이 있을 수 있다"면서도 "딥페이크와 AI 범죄가 사회적 문제로 이어지고 있는 만큼 관계 부처와 함께 개정안 시행에 따른 영향, 문제점 등을 다각도로 검토하고 있다"고 말했다.