머니투데이

디지털 성폭력의 일종으로 여겨지는 '알페스' 용의자들이 기소유예 처분에 그쳤다. 정치권 최고위층이 나서서 엄벌을 촉구하며 고발했지만 결국 처벌하지 못했다. 디지털 성범죄를 단죄하기 위한 사회적 공감대가 부족한 탓으로 풀이된다. 12일 경찰에 따르면 2021년 6월 서울 영등포경찰서가 성폭력범죄의 처벌 등에 관한 특례법(성폭력처벌특례법) 위반혐의로 입건해 기소의견으로 서울남부지검에 송치한 알페스 제작·유포 용의자 7명이 최종 기소유예 처분을 받은 것으로 확인됐다. 이는 같은 해 1월 하태경 국민의힘 의원과 이준석 국민의힘 최고위원(현 개혁신당 의원) 등이 알페스 관련자 110여명을 경찰에 수사의뢰한 결과다. ━미성년 아이돌 성행위까지 묘사한 알페스·섹테 모두 기소유예━알페스는 RPS(Real Person Slash)를 빠르게 발음한 단어다. 대개 아이돌 팬들이 멤버들을 주인공으로 등장시키는 가상스토리 '팬픽'의 일종으로 여겨지는데 아이돌을 성적 대상화하고 이들의 성적 지향과 상관없이

최근 합성음란물 유포 등 딥페이크(이미지 합성) 성범죄가 급증하면서 사회적 문제로 확산되는 가운데, 마우스 클릭 서너 번이면 누구나 쉽게 콘텐츠 제작이 가능한 것으로 나타났다. 단순 '재미' 용도로 개발됐지만, 마음만 먹으면 얼마든지 음란물을 제작해 악용할 소지가 있는 만큼 이용자들의 주의가 요구된다. 직접 딥페이크 콘텐츠 제작에 도전했다. 고도의 기술력과 거창한 프로그램이 필요할 것이란 기존 생각과 달리 웹사이트와 모바일 앱스토어에선 다양한 AI(인공지능) 얼굴 합성, 딥페이크 제작 앱이 유통되고 있다. 이들 앱 대부분은 기본적인 이미지 합성 기능을 무료로 제공한다. 정기권을 구매(3일 무료 체험 가능)하면 고화질 이미지 합성, 영상합성 등 프리미엄 서비스까지 이용할 수 있다. 대표적으로 '페이스 스와퍼 AI'(웹사이트)와 'AI 픽'(모바일앱) 두 가지 프로그램을 사용했다. 두 앱 모두 AI 기술을 활용해 사용자 얼굴을 대상 이미지에 합성하는 방식이다. 페이스 스와퍼 AI는 기

생성형 AI(인공지능)를 악용한 딥페이크가 사회적 이슈로 떠오르자 국회가 관련 법안을 발의하며 대응에 나섰다. 특히 딥페이크가 주로 유통되는 텔레그램 등 플랫폼에 법적 의무를 부과하는 등 규제해야 한다는 목소리가 높아지자 일각에서는 자칫하다간 국내 플랫폼 역차별 문제가 불거질 수 있다는 우려를 제기한다. 12일 IT(정보기술) 업계에 따르면 딥페이크 문제가 터진 이후로 국회에는 관련 법안이 30건 이상 발의됐다. 주로 딥페이크를 편집, 합성, 가공하는 것뿐만 아니라 소지, 구입, 저장, 시청하는 행위에 대해 처벌 규정을 신설하고 상습적인 경우 형을 가중하는 내용이 대부분이다. 가해자에 대한 수사·처벌 강화, 방송통신심의위원회의 역할과 중요성 격상, 허위 영상물 삭제 등 피해자 지원을 위한 내용도 포함됐다. 이에 대해 플랫폼 업계와 학계 등에서는 딥페이크를 규제해야 한다는 점에 공감하지만 자칫 분위기에 휩쓸려 과도한 규제로 이어져선 안 된다고 지적한다. 생성형 AI 등장 이후 하루가

"한국은 딥페이크 음란물 문제의 진앙." 가디언·BBC·월스트리트저널(WSJ) 등 주요 외신은 최근 한국의 딥페이크(Deepfake·이미지 합성 기술) 음란물 사태를 집중 조명했다. 이들은 한국이 몰카(몰래카메라), 텔레그램 'N번방' 사태 등 "디지털 성범죄 관련 어두운 역사가 있다"며 이번에 딥페이크 음란물과 싸우며 전 세계적 문제의 진앙이 됐다고 평가했다. 그러나 딥페이크 음란물 문제는 과거 미국 등에서도 논란이 됐었고, 확산한 영상 대부분이 중국에서 만들어진 것이라며 한국이 오명을 쓰고 있다는 주장도 있다. 12일 주요 외신 보도를 종합하면 매체들은 한국의 성(性)차별, 성희롱 문화, 왜곡된 성인식 속 AI(인공지능) 등 첨단기술 발전, 낮은 처벌 강도 등이 한국 내 디지털 성범죄의 폭발적인 증가로 이어졌다고 지적한다. 특히 영상을 유포하는 채팅창이 한국어로 이뤄졌다는 점을 앞세워 딥페이크 음란물 제작자와 이를 원하는 사람들이 한국인이라고 특정했다. WSJ은 "익명의 텔레그램

#1 2021년 12월 메타의 자회사가 개발한 가상현실(메타버스) 플랫폼 '호라이즌 월드'에서 집단 성폭행 사건이 발생했다. 남성 가상 캐릭터 3명이 40대 여성의 캐릭터를 둘러싼 뒤 가슴을 만지고 몸을 눌렀다. 피해 여성은 "남성들이 음성 채팅으로 '싫어하는 척 하지말라'며 소리쳤다. 현실과 구분하기 힘들 정도로 끔찍한 악몽이었다"고 했다. #2 지난 1월 영국에서는 한 10대 소녀가 가상현실(VR) 장비를 착용하고 몰입형 게임을 하던 중 여러 남성 캐릭터에게 집단 성폭행을 당했다. 이 소녀는 현실에서 성폭행 당한 것과 유사한 후유증을 겪는 것으로 알려졌다. 여러 전문가에 따르면 성범죄가 가상 공간에서 벌어지지만 경험은 실제적이어서 정신적 피해가 실제와 같은 수준이라고 한다. 가상현실에서 벌어지는 성범죄가 논란이 되고 있지만 처벌은 제한적으로만 가능하다. 현재 가상 캐릭터를 대상으로 한 성범죄를 처벌할 수 있는 규정이 없다. 다만 온라인에서 음성으로 된 대화나 문자채팅으로 상대방

딥페이크 성범죄물이 학교 현장에 광범위하게 퍼지면서, 청소년들의 교육 과정에 체계적인 디지털 성교육이 필요하다는 목소리가 커진다. 10대가 딥페이크 성범죄물의 최대 가해자이자 피해자인 만큼, 관련 대책을 더는 미룰 수 없다는 평가다. 12일 경찰청 통계에 따르면 올해 1~7월 딥페이크 성 착취물 범죄 혐의로 입건된 10대 피의자는 131명이다. 전체 피의자 중 10대의 비중이 73.6%에 달한다. 10대가 딥페이크 범죄의 구렁텅이에 빠진 것은 어제오늘의 일이 아니다. 전체 피의자 중 10대 비중은 이미 2021년 65.4%에 달했고, 2022년 61.2%, 2023년 75.8%로 계속 증가했다. 올해는 10대 비중이 작년 대비 소폭 줄어든 것 같지만, 실제 입건된 피의자는 40명 늘었다. 피해자 역시 10대가 많다. 2021년 53명, 2022년 81명, 2023년 181명으로 계속 증가했다. 전체 피해자 중 10대의 비중은 지난해 62%를 기록했다. 딥페이크 범죄에 대한 10대 청

"딥페이크(인공지능 기술을 활용한 이미지 합성) 성범죄의 경우 현행법상 유포의 의도가 입증되지 않으면 제작만으로 처벌이 어렵습니다. 대부분 소셜미디어(SNS)로 유포되다보니 영상물이 적발돼도 언제 어떤 목적으로 제작했는지 알기 어렵죠. 따라서 목적을 따지지 않고 딥페이크를 활용한 디지털 성착취 영상 제작을 금지하고 단순 소지와 시청도 처벌할 수 있도록 이번 개정안을 발의했습니다." 김남희 더불어민주당 의원은 12일 머니투데이 더300(the300)과의 전화 인터뷰에서 지난달 말 딥페이크 성범죄 근절을 위한 개정안을 발의한 취지에 대해 이같이 밝혔다. 김 의원은 딥페이크 성범죄물 유포가 논란이 됐던 지난달 말 △성폭력처벌법(성폭력범죄의 처벌 등에 관한 특례법) 개정안 △정보통신망법(정보통신망 이용촉진 및 정보보호 등에 관한 법률) 개정안 △성폭력 방지법(성폭력방지 및 피해자보호 등에 관한 법률) 개정안 △아동청소년 성보호법(아동·청소년의 성보호에 관한 법률) 개정안을 냈다. 성폭력처

"2019년의 N번방부터 지금의 딥페이크까지 겪으며 이슈가 될 때마다 대응책을 마련하는 것도 중요하지만, 이것이 되풀이되지 않도록 하는 예방 교육이 더 중요하다는 사실을 깨달았습니다. 생성형 AI(인공지능) 콘텐츠 생성과 소비에 책임감을 느끼고 공동체로서 타인을 존중하는 자세를 배워야 합니다." 문성환 시청자미디어재단 미디어교육정책부장이 12일 서울 양천구 목동 방송회관에서 열린 '딥페이크 성범죄물 대응 전문가 토론회'에서 딥페이크 성범죄를 막기 위해서는 예방교육이 가장 중요하다며 이같이 말했다. 방송통신위원회(방통위)·방송통신심의위원회(방심위)·시청자미디어재단(재단) 주최로 열린 이날 토론회에서 전문가들은 빠른 차단·처벌 강화·AI 규제 마련 등 다양한 대응책을 내놓으면서도 "피해가 발생한 다음에 조치를 취하는 것은 늦다"며 "가장 중요한 건 예방교육"이라고 뜻을 모았다. 이날 발제자로 나선 정필운 한국교원대 교수 겸 한국인터넷법학회장도 실효성 있는 미디어 리터러시 교육이 필요하