머니투데이

최근 합성음란물 유포 등 딥페이크(이미지 합성) 성범죄가 급증하면서 사회적 문제로 확산되는 가운데, 마우스 클릭 서너 번이면 누구나 쉽게 콘텐츠 제작이 가능한 것으로 나타났다. 단순 '재미' 용도로 개발됐지만, 마음만 먹으면 얼마든지 음란물을 제작해 악용할 소지가 있는 만큼 이용자들의 주의가 요구된다. 직접 딥페이크 콘텐츠 제작에 도전했다. 고도의 기술력과 거창한 프로그램이 필요할 것이란 기존 생각과 달리 웹사이트와 모바일 앱스토어에선 다양한 AI(인공지능) 얼굴 합성, 딥페이크 제작 앱이 유통되고 있다. 이들 앱 대부분은 기본적인 이미지 합성 기능을 무료로 제공한다. 정기권을 구매(3일 무료 체험 가능)하면 고화질 이미지 합성, 영상합성 등 프리미엄 서비스까지 이용할 수 있다. 대표적으로 '페이스 스와퍼 AI'(웹사이트)와 'AI 픽'(모바일앱) 두 가지 프로그램을 사용했다. 두 앱 모두 AI 기술을 활용해 사용자 얼굴을 대상 이미지에 합성하는 방식이다. 페이스 스와퍼 AI는 기

서울대 동문 등 여성 60여명의 얼굴 사진을 합성한 음란물을 만들고 유포한 이른바 '서울대 딥페이크' 사건의 공범 박모씨(20대·남)가 최근 1심에서 징역 5년을 선고받으면서 딥페이크 성범죄에 대한 법정 형량과 양형기준에 대한 관심이 높아지고 있다. 박씨의 형량이 어떻게 산정됐는지 이해하기 위해서는 재판부가 유죄로 판단한 혐의 중 딱 한 가지만 봐도 된다. 성폭력범죄의처벌등에관한특례법 제14조의2 위반(상습허위영상물편집·반포)이다. 우리 형법은 여러 범죄를 저질렀다고 해도 각각의 형량을 모두 합산해 선고할 수 없도록 한다. 대신 형량을 정하는 기준이 있다. 범죄 행위 하나에 여러 죄명이 적용되는 경우(상상적 경합)와 여러 행위가 각각 여러 범죄를 구성하는 경우(실체적 경합)의 계산법이 다르다. 서울대 딥페이크 사건처럼 범죄 행위와 적용되는 죄명이 여러 가지인 경우엔 법정형이 가장 무거운 범죄의 상한선에 상한선의 2분의 1을 더한 형량이 상한선이 된다. 즉 가장 무거운 범죄의 법정형

"전화 오는 사람들에게 우리 아이가 가해자가 아니라고… 화도 내보고 경찰에 신고도 했다고 했는데 아무도 믿지 않아요." 이른바 '딥페이크(Deepfake·이미지 합성 기술) 사적 제재방' 피해자 A양의 어머니 B씨는 30일 머니투데이와 한 인터뷰에서 "아이가 학교에 혼자 있을 때 누군가 위해를 가할까 너무 무섭다"며 이같이 밝혔다. A양과 가족의 평온했던 일상은 지난 26일부터 송두리째 무너졌다. 같은날 밤 갑자기 중학생 A양과 어머니 B씨 핸드폰으로 모르는 번호나 발신번호 표시가 제한된 전화 수십통이 밀려오기 시작했다. ━협박·엄포에 사라진 일상…전화 뺏은 경찰관도 "아니라고" 했지만━ 전화를 건 이는 다짜고짜 A양 어머니에게 "딥페이크 가해자라고 해서 전화했다"라며 목소리를 높였다. 이어 "애를 잘 키워라" "조심하라"는 전화가 빗발쳤다. 두려움과 마주한 A양과 어머니는 같은날 오후 10시쯤 충남 아산경찰서에 신고했지만 익명의 공간에서 '생사람 잡기'는 끝나지 않았다. B씨는

언론사 기자들을 대상으로 한 딥페이크(AI 기반 합성 이미지) 성착취물 텔레그램 방이 개설된 것으로 확인됐다. 29일 뉴스1에 따르면 최근 텔레그램 상에 '기자 합성방'이 개설됐다. 딥페이크 관련 문제를 지적한 기사를 쓴 기자 얼굴을 음란물에 합성한 딥페이크 영상물을 만들어 유포하려는 목적으로 보인다. 채널 관리자는 "방 터트리면 지능(지인능욕) 못 할 줄 알아? 안 잡히고 끝까지 지능해줄게"라며 "기사 낸 기자, 모든 여자들을 지능해줄게"라고 채널 개설 목적을 공지했다. 또 "기자들도 당해봐야 헛소리 작작 쓰지" "OO기자님부터 지능해줘야 되나"라는 협박성 대화와 함께 "예쁜 분들 위주로 부탁드린다"는 외모 평가도 오갔다. 텔레그램 추적이 어렵다는 점을 악용, 딥페이크를 통한 협박으로 언론의 자유를 위축시키는 것 아니냐는 우려가 나온다. 서울경찰청은 참여 인원만 약 22만 명에 이르는 것으로 알려진 불법합성물 제작·유포 텔레그램 채널과 관련해 26일 입건 전 조사(내사)에 착수했

"덜 유명하고 님들이 안 써봤을 '딥페이크봇', 좋아요 누르면 더 올려드림." 28일 SNS(소셜미디어) 엑스와 미국 온라인 커뮤니티 레딧 등에서 '딥페이크 봇'을 검색한 결과 불과 1분만에 텔레그램 채팅방으로 연결되는 링크가 20여개 나타났다. 텔레그램으로 연결되는 도메인에는 'Braundress'(속옷 벗기기) 'Fakenude'(가짜 나체) 'Unclothy'(헐벗은) 등 표현이 담겼다. 딥페이크봇은 사진 한 장을 넣으면 딥페이크 기술로 음란물을 자동 생성하는 텔레그램 AI 봇이다. 다수 SNS 이용자들은 해당 링크를 공유하며 '무료 체험'을 하고 있었다. 상당수 봇이 사진 1장까지 무료로 제작해주고 이후 유료로 전환해 수익을 낸다. 텔레그램에 재가입하는 방법과 재가입 대기시간이 길어질 경우 가상 전화번호를 생성하는 방법 등도 공유된다. ━딥페이크봇 "남성 사진은 보내지마라"━ 딥페이크봇은 '1대 1 대화방'처럼 운영됐다. 대체로 입장과 동시에 '사용자 동의서'를 보여주고 동

군 당국이 최근 딥페이크(Deep Fake) 성범죄 피해자에 여군도 포함된 사실을 인지하고 경찰 수사에 적극 협조하고 있다고 밝혔다. 딥페이크는 딥러닝(Deep Learning)과 페이크(Fake·가짜)를 합친 말로, AI(인공지능)를 이용해 특정 인물의 얼굴 등을 영상이나 사진으로 합성하는 것을 말한다. 주로 성 착취물 제작 등에 오남용되고 있다. 전하규 국방부 대변인은 29일 정례브리핑에서 '여군의 딥페이크 피해 사례가 속출하고 있다'는 질의에 "국방부는 사안의 심각성을 충분히 인지하고 있으며 경찰 수사에도 적극 협조하고 있다"고 밝혔다. 전 대변인은 "이번 사건 관련해 피해 현황을 접수하고 있고 상담·신고 등 피해자 보호를 위해 필요한 조치를 시행하고 있다"며 "또 재발 방지를 위한 교육, 다양한 예방 대책 등을 병행해 나갈 것"이라고 말했다. 최근 딥페이크 성범죄 피해가 속출하는 가운데 여군을 상대로 딥페이크 음란물 영상을 제작·유포하는 텔레그램 대화방도 만들어진 것으로 파

AI(인공지능) 딥페이크 음란물을 만들 수 있는 온라인 사이트와 앱이 넘쳐나면서 청소년 범죄를 조장한다는 비판이 제기된다. 성인 인증을 받거나 이용료를 내지 않아도 딥페이크를 만들 수 있는 만큼, 비전문가와 미성년자 등이 손쉽게 범죄에 가담할 수 있기 때문이다. 29일 구글을 비롯한 주요 검색엔진에서 'AI'와 음란물을 연상시키는 단어를 합성해 검색하면, 수십개 이상의 앱과 웹사이트가 노출된다. 대부분 해외에 서버를 둔 것으로 추정되는 이런 서비스들은 성인 여부를 묻긴 하지만, '맞다'고 클릭하면 별다른 인증 없이 회원 가입을 유도한다. 가입 시 요구는 이메일 인증이 전부고, '생성물에 대한 책임은 이용자에게 있다'는 형식적 경고에 그친다. 일부 사이트는 가입 즉시 딥페이크를 무료로 만들 수 있다고 안내한다. 실제로 기자의 사진을 업로드한 뒤 옷을 제거할 범위를 선택하고, 1분가량 시간이 지나자 누드 사진과 같은 딥페이크가 금세 만들어졌다. 또 다른 사이트에선 게임 캐릭터를 업로드

텔레그램 채팅방에서 지인의 사진을 합성해 만든 딥페이크 범죄 행위가 국내에서 속출하는 가운데 외신들도 "한국이 딥페이크 비상사태에 직면했다"며 주목했다. 28일(현지시간) 영국 BBC방송은 "최근 미성년자를 포함해 젊은 여성들을 표적으로 삼는 딥페이크 포르노가 범람하자, 윤석열 대통령이 '디지털 성범죄를 철저히 조사하고 해결해 근절하라'고 지시했다"고 전했다. 경찰에 따르면 22만명가량이 참여 중인 텔레그램 채널에서 딥페이크 성범죄물이 확산한 것으로 보인다. 딥페이크 성범죄 피해자의 80%가량은 여성으로 추산된다. BBC는 "주로 10대 학생들이 자신의 반 친구나 선생님 사진을 공유하면, 다른 사용자들이 그 사진을 성적으로 노골적인 딥페이크 이미지로 합성했다"며 "이번 사건은 최근 범죄 방치 혐의로 텔레그램 창업자 파벨 두로프가 체포된 이후 알려졌다"고 보도했다. BBC는 "한국은 디지털 성범죄에 대한 어두운 역사를 갖고 있다"고 지적했다. 그 예로 텔레그램 'N번방' 사건을 언급했

전 세계에서 제작되는 딥페이크 음란물 피해자의 99%는 여성이며, 과반은 한국인이라는 조사 결과가 나왔다. 또 전세계에서 딥페이크 음란물 피해를 가장 많이 입은 상위 10명의 인물 중 8명이 한국 가수였다. 29일 사이버보안업체 '시큐리티히어로(securityhero)' 가 공개한 보고서에 따르면, 지난해 온라인 딥페이크 영상 수는 9만5820건으로 2019년 대비 550% 증가했다. 또 전체 딥페이크 동영상 중 음란물의 비중은 98%에 달했고, 딥페이크 음란물에 활용된 사람의 99%는 여성이었다. 특히 한국의 여성 연예인은 딥페이크 음란물의 주된 표적이 되는 것으로 조사됐다. 딥페이크 음란물 피해자의 국적은 한국이 53%로 압도적이었다. 미국이 20%, 일본은 10%였고 영국(6%), 중국(3%), 인도와 대만(이상 2%), 이스라엘(1%) 순이었다. 전세계 딥페이크 음란물 영상에 등장하는 인물 중 95%는 엔터테인먼트 업계에서 일하고 있었으며, 구체적으로는 가수(58%), 여배

'서울대 딥페이크 사건' 등 디지털 성범죄가 전국 곳곳에서 반복적으로 발생하면서 처벌을 강화하자는 목소리가 커졌다. 법조계와 정치권에서는 딥페이크 영상물 소지자와 시청자를 처벌할 수 있는 규정을 마련하고 판사가 형량을 정할 때 참고하는 양형 기준을 손봐야 한다는 지적이 나온다. 29일 법조계에 따르면 딥페이크 기술을 이용한 범죄, 특히 연예인이나 일반인의 나체 사진 또는 영상을 합성하는 범죄가 성범죄로 처벌될 수 있게 된 것은 비교적 최근의 일이다. 국회는 이른바 'N번방' 사건을 계기로 2020년 6월 성폭력범죄의 처벌 등에 관한 특례법(성폭력 처벌법) 제14조의 2를 개정했다. 이른바 '딥페이크 처벌법'이다. 가해자들은 이 법안이 생기기 전까지 정보통신망법상 사이버 명예훼손죄와 음란물 유포죄 등으로 낮은 처벌을 받았다. 딥페이크 처벌법 시행 이후 허위 영상물을 반포할 목적으로 편집·합성, 가공한 경우 5년 이하의 징역 또는 5000만 원 이하의 벌금에 처하게 됐다. 특히 금전적

인천의 한 고등학생이 '딥페이크' 기술을 악용, 여교사의 얼굴을 나체사진에 합성해 사회관계망서비스(SNS)에 유포한 혐의로 경찰에 붙잡혔다. 28일 뉴시스에 따르면 인천 남동경찰서는 고등학생 A군을 성폭력범죄의 처벌 등에 관한 특례법 위반(허위영상물 제작 및 반포) 혐의로 불구속 입건했다. A군은 최근 딥페이크 기술로 자신이 다니는 고등학교 여교사 2명의 얼굴을 나체 사진에 합성한 뒤 SNS에 유포한 혐의를 받고 있다. 앞서 피해 여교사 2명은 남동경찰서에 진정서를 접수했다. 이후 수사에 나선 경찰은 A군을 피의자로 특정했다. 경찰은 A군이 텔레그램을 통해 영상물을 유포한 것으로 추정하고, 디지털포렌식 작업을 벌일 계획이다.

최근 생성형 AI(인공지능)를 활용해 음란 영상과 무관한 인물의 얼굴을 합성하는 '딥페이크'가 퍼지면서 피해자가 우후죽순 생기고 있다. 주로 소셜미디어와 모바일 메신저를 통해 이러한 딥페이크가 유포되는데, 각 플랫폼별로 각기 다른 삭제 절차 때문에 피해자들이 어려움을 겪고 있다. 국내외 주요 플랫폼에서 딥페이크 영상을 삭제할 수 있는 구체적인 절차들을 모아봤다. ━피해자가 일일이 찾아서 신고해도…처리에 2~3일 걸려━유튜브, 인스타그램 등 해외 서비스마다 권리침해 신고 절차가 있지만, 비교적 까다롭고 게시물 삭제까지 시간이 걸린다. 때문에 신속하고 정확하게 신고하는 것이 중요하다. 유튜브는 영상 우측 하단의 '신고' 버튼을 누른 뒤 '내 권리 침해'를 선택하면 된다. 신고에 필요한 영상 주소를 얻기 위해선 영상에서 마우스 우클릭을 해 '동영상 URL 주소'를 확보해야 한다. 모바일 앱에선 영상을 전체보기로 설정한 뒤 하단의 '점 세 개'를 클릭해 신고하고, 쇼츠 영상은 우측 상단의