"딥페이크, 장난한 거에요"…미성년자도 아청법·학폭에 해당

"미성년자도 딥페이크 범죄로 처벌받을 수 있어요. 특히 학교 친구를 대상으로 할 경우 아청법(아동청소년의 성보호에 관한 법률)과 성폭력범죄특례법, 학교 폭력으로도 처벌받아요."

"헉… 진짜냐."

지난 16일 서울 강남구 단국대학교부속 소프트웨어고등학교 강당은 시끌시끌하다가 순간 고요해졌다. 재학생 200여명이 참석한 '2026년 u클린 토크콘서트'에서 김하은 서울마포경찰서 여성청소년과 SPO(학교전담경찰관·경장)가 딥페이크 성범죄 처벌 수위를 밝혀서다. 특히 범죄자 중 10대 비중이 월등히 높다고 하자 "진짜냐"며 수근댔다.

김 경장은 딥페이크 범죄가 장난처럼 시작되지만 피해자에겐 씻을 수 없는 상처를 안긴다고 했다. AI 기술이 발전하면서 합성물이 점점 진짜처럼 정교해져서다. 특히 청소년이 동년배에게 저지른 딥페이크 범죄는 피해자도 청소년이어서 더 무거운 처벌을 받게 된다. 문제는 청소년들의 범죄 인식률이 낮다는 것. 지난해 경찰청이 사이버 성폭력 집중단속으로 검거한 3557명 중 10대가 48%에 달한다는 결과가 이를 방증한다.

다행인 것은 딥페이크물이 교묘해질 수록, 방패도 고도화한다는 것이다. 김 경장은 "경찰청 국가수사본부의 '딥페이크 탐지 소프트웨어'는 정교하게 만든 가짜 영상도 10분이면 잡는다"며 "합성물 유통 통로로 쓰이는 텔레그램과 업무협약을 체결해 경찰의 자료 요구에 95% 이상 응대한다"고 밝혔다.

강연이 끝난 후 1학년 이재우 학생은 "딥페이크 관련 10대 범죄자가 많다는 점에서 심각성을 느꼈다. 어른들 세상에만 (성범죄가) 있지 않다는 것을 깨달았다"고 말했다.

조욱래 SK텔레콤(89,700원 ▲4,700 +5.53%) 에이닷사업개발 PL(프로젝트리더)은 최근 800만명의 누리꾼을 속였던 '야구장 여신' 동영상의 사례로 정교해진 AI의 위험성을 일깨웠다.

'올바른 AI 활용법 및 안전한 AI 개발 노력'을 주제로 한 강연에서 조 리더는 "야구 덕후들이 점수판에 적힌 코치와 현역 선수 이름이 매치되지 않은 것을 보고 AI 제작물인 것을 알아냈다"며 "미세한 오류를 알아낼 덕후가 없다면 누구나 일상에서 AI로 인한 위험에 처할 수 있는 것"이라고 했다.

최근 AI 기술은 2~5초의 짧은 음성으로도 목소리를 똑같이 흉내 낼 수 있는 수준까지 발전했다고 강조했다. 보이스피싱 피해 위험이 커졌다는 얘기다. 경찰청에 따르면 지난해 보이스피싱 피해금액은 1조원을 돌파했다. 이에 통신사들은 고도화된 AI 위험을 막기 위해 보이스피싱 예방 기술도 내놨다. 대표적으로 SKT는 '에이닷 안심케어' 서비스로, 통화 전·중·후 3단계에 걸쳐 AI를 활용한 목소리 변조·보이스피싱 위험을 막는다. 올해 1분기 3562만건의 보이스피싱·스팸 통화를 차단했다.

다만 조 리더는 다가올 AI 시대, AI를 잘 써야 한다고도 언급했다. AI를 잘 쓰기 위해선 답을 한번 더 의심하고, AI 사용 여부를 밝히고, 내 생각은 스스로 써내는 훈련을 해야 한다고 했다.

AI를 잘 쓰기 위해 길러야 할 4가지 근육도 소개했다. △문제의 근본을 파악할 수 있는 '생각하는 근육' △실패해도 다음 선택으로 나아가는 '적응 근육' △AI가 못할 인간관계 형성을 위한 '공감하는 근육' △신체 활동으로 가치를 창출하는 '몸으로 하는 근육'이다.

강연을 들은 1학년 박승인 학생은 "보이스피싱 탐지 서비스가 있다는 것이 인상 깊었다. 오늘 부모님께 다운로드해드릴 것"이라고 말했다. 2학년 이수안 학생은 "개발자이다보니 그동안 클로드를 많이 썼는데, 오늘 다양한 AI를 적재적소에 쓰는 법을 알게 됐다"고 밝혔다. 동급생인 조용준 학생은 "딥페이크가 무섭다고만 생각했는데 어떻게 범죄가 발생하는지, 어떻게 대응하는지 알게 돼 유익했다"고 말했다.

한편 이날 행사는 머니투데이와 한국지능정보사회진흥원(NIA)이 공동 주최하고 방송미디어통신위원회가 후원하는 'u클린 캠페인' 일환으로 마련됐다. 청소년에게 올바른 AI 윤리관을 심어주고 무분별한 AI 악용의 위험성을 알리기 위해 마련됐다.