[2026 u클린] 딥페이크 범죄 저연령화
방미통위·NIA, 예방교육 확대
# 지난달 캐나다 앨버타주 에드먼턴의 한 중학교에 다니던 14세 남학생 2명이 아동 성착취물 제작, 소지 및 관음증 혐의로 기소됐다. 가해 학생들은 학교나 주차장에서 같은 학교 여학생들의 사진을 몰래 촬영하거나 SNS(소셜미디어) 계정에서 사진을 훔쳤다. 이후 AI 이미지 생성 프로그램을 이용, 여학생들의 얼굴에 알몸 등을 합성해 성적인 사진으로 변형하는 딥페이크 범죄를 저질렀다. 피해자의 동의는 없었다.
두 학생이 공유한 사진은 결국 누군가에게 목격됐고 학교 전체에 소문이 났다. 3월에 피해 학생들이 교사에게 이 사실을 제보했고 교사가 경찰에 신고하면서 바로 수사가 시작됐다. 경찰은 피해 여학생의 수를 최소 두 자릿수 이상으로 파악했다. 10대 청소년들의 심각한 범죄에 충격받은 캐나다 언론들은 이를 대대적으로 보도했다. 사건을 수사한 경찰관은 "나이와 상관없이 심각한 범죄에 대한 책임을 지게 될 것"이라고 말했다.
이는 해외만의 일이 아니다. 국내에서도 10대 청소년들이 텔레그램 메신저를 활용, 무차별 디지털 성폭력을 저지른 2024년 '제2의 N번방' '겹지방'(겹치는 지인방) 사건이 연달아 발생했다. 이에 불안한 초·중·고교는 가정통신문에 수시로 딥페이크 범죄대응 및 예방안내문을 발송했다.
지난해 서울 강동구의 한 초등학교는 6학년생에게 졸업앨범 구입의사를 묻는 가정통신문에 '개인정보 동의서' '딥페이크 예방서약서'를 추가해 화제가 됐다. 서약서엔 앨범사진을 함부로 공유하거나 활용하지 않고 문제시 전문기관에 의한 처벌, 특별교육 이수, 생활기록부상 불이익이 발생할 수 있다는 내용이 포함된 것으로 전해졌다. 이후 졸업시즌마다 앨범을 구매하려는 학생들에게 '딥페이크 예방서약서'를 받는 학교가 늘고 있다.
◇ AI 네이티브 세대 출현…2025년 딥페이크 범죄 피의자 62%가 10대
AI와 함께 성장한 AI네이티브 세대가 등장하면서 딥페이크 가해자와 피해자 연령대는 더욱 낮아지는 추세다. 특히 생성형 AI의 발전으로 장난처럼 딥페이크물을 만드는 AI 활용범죄가 늘고 있다.
지난해 경찰청에 따르면 2024년 11월부터 2025년 10월까지 사이버성폭력을 집중단속, 총 3697명을 검거했는데 이 중 10대가 1761명(47.6%)으로 절반에 육박했다. 딥페이크 영상 성범죄로 범위를 좁히면 검거한 전체 피의자 1449명 중 10대가 895명으로 61.8%에 달했다.
경찰 조사에 따르면 검거된 10대 청소년의 상당수가 범죄이유로 "친구가 가르쳐줘서" "그냥 재미 삼아 진짜처럼 만들어지나 궁금해서 해봤다"고 진술했다.
◇초등학생, AI 사이버폭력 가해·피해 경험 모두 다른 세대보다 높아
방송미디어통신위원회는 한국지능정보사회진흥원(NIA)과 함께 매년 진행한 '사이버폭력 실태조사'에 올해 처음 'AI 활용 사이버폭력' 설문을 추가했다. 조사는 청소년의 경우 최근 1년(2024년 9월~2025년 8월)간 전국 초등학교 4학년부터 고등학교 3학년까지 9296명을 대상으로 이뤄졌다. 조사에 따르면 전체 응답자의 37.5%가 사이버폭력을 경험한 것으로 나타났다. 이 중 초등학생의 피해경험이 40.2%로 10대 청소년 중에서도 높았다.
사이버폭력 가해 청소년 가운데 'AI를 활용했다'고 응답한 비율 역시 초등학생이 더 높았다. AI로 글이나 사진, 동영상을 합성해 퍼뜨리는 'AI 활용 사이버폭력 가해경험이 있다'는 응답자는 전체의 2.2%였다. 이 중 초등학생의 AI 활용 가해경험은 3.2%로 중학생(1.3%)과 고등학생(2.3%)보다 높았다.
독자들의 PICK!
다만 10대 청소년들은 AI를 활용한 사이버폭력의 심각성도 충분히 인지했다. 10대의 89.4%가 'AI로 인한 사이버폭력이 심각하다'며 성인(87.6%)보다 심각하게 인식했다. 그 이유론 'AI로 가짜영상이나 사진을 쉽게 만들고 누구나 피해자가 될 수 있어서'라고 응답한 비율이 48.7%로 2명 중 1명꼴이었다. 성인의 경우 해당 문항의 응답률이 23.6%에 그친 것과 대조된다.
교육계에선 생성형 AI서비스가 대중화하면서 프로그래밍 지식이 없어도 사진만 넣으면 합성이 가능한 수준이 됐다고 경고한다. 이에 따라 초등학교부터 AI 윤리교육을 강화해야 한다는 목소리가 커진다.
"이 학교는 다니다 보면 여혐(여성혐오의 준말)이 생길 수밖에 없을 듯. 얼굴에 분칠하지 말고 밖에 나가서 운동이나 좀 해라."
"응. 나도 너희 같은 도태남(현대사회에서 도태된 남성)은 안 만난다. 대쉬당하는 것도 쪽팔려."
인터넷 커뮤니티의 모 고등학교갤러리(게시판)에 올라온 게시글과 댓글이다. 재학생으로 보이는 남녀 이용자가 성차별적 발언을 퍼붓는다. 인근 학교에선 지난해 남학생들이 여학생들을 성희롱하는 글을 작성, 공유문서로 돌려보는 사건이 발생해 소송 중이다.
사이버폭력이 교육현장을 위협한다. 최근 AI(인공지능)의 발달로 사이버 폭력은 더 쉽고 강력해졌다. 방송미디어통신위원회와 한국지능정보사회진흥원(NIA)이 발표한 '2025 사이버폭력 실태조사'에 따르면 전체 청소년의 90.0%가 '사이버폭력 예방교육을 이수했다'고 답했다. 그럼에도 응답자의 19.1%는 '여전히 사이버폭력을 가한 적이 있다'고 했다. 보다 효과적인 교육이 필요하다는 지적이 나오는 이유다. 30대 교사 A씨는 "강의식 교육은 학생들이 잘 듣지 않고 딴짓을 하는 경우가 많다"며 "가정 내 올바른 지도를 위해 학부모 등 전계층을 대상으로 한 교육이 필요하다"고 말했다.
이에 방송미디어통신위원회와 NIA는 함께 추진 중인 디지털윤리 교육의 실효성을 높이기 위해 참여형 교육을 강화해 나가고 있다. △유아동화 구연 △청소년 디지털윤리 골든벨(사진) △딥페이크 토론교육 △숲e랑 가족캠프 등 체험형 교육이 대표적이다. 보드게임, 토론교안, 교육영상 등 교구도 활용한다. 지도교사가 NIA의 교육콘텐츠를 활용, 학생들에게 디지털윤리를 교육하는 자율형 프로그램 '청소년 디지털드림단'도 운영한다.
청소년뿐 아니라 대학생, 직장인, 군인, 고령층, 장애인, 교·강사 등 전계층이 대상이다. 대학생에겐 원격교육 영상과 소책자를 배포하고 직장인에겐 직무별 퀴즈미션이 담긴 웹교구를 제공한다. 직장 내 생성형 AI 사용률 상승으로 직장인 대상 '생성형 AI 실습형 윤리교육'도 추진한다. 군 부대에는 디지털윤리 강사를 파견하고 군 내 전문교관 양성을 돕는다. 고령층에게도 개인정보보호·허위조작정보 등을 주제로 한 컬러링북·인플루언서 영상 등을 제공한다. 지난해엔 총 28만7000여명이 NIA의 교육을 받았다.
△창작콘텐츠 공모전(6~10월) △디지털윤리주간(7월) △디지털윤리대전(12월) 등 참여형 캠페인도 연다. NIA는 경기, 광주, 전북, 대구, 부산 전국 5곳에서 디지털윤리에 대한 이해·인식제고를 돕는 디지털윤리체험관을 운영한다. 서울 체험관은 연내 개소할 예정이다. 동화, 캠페인송, 예능형 영상 등 콘텐츠를 배포하는 등 홍보활동도 열심히 한다.
매년 4·8·12월 총 3회 '디지털윤리 이슈분석 보고서'를 발간하는 등 정책연구도 활발하다. 방미통위와 NIA는 매년 함께 사이버폭력 실태조사도 실시해 결과를 발표하고 있다. 전국 초등학교 4학년~고등학교 3학년 청소년 9000명과 19~69세 성인 7500명을 대상으로 2~3개월 조사한다.
