세계적인 팝스타 테일러 스위프트 딥페이크 사건으로 지난해 제정된 미국 'TAKE IT DOWN'법으로 첫 번째 유죄 판결이 나왔다. 해당 법안이 딥페이크물 공유 1회당 최대 징역 2~3년을 선고할 수 있도록 규정하고 있어 상당한 중형이 예상된다.
13일 더 가디언 등 외신에 따르면 오하이오주 콜럼버스 연방법원은 최근 피고인 제임스 스트롤러 2세(37)의 유죄를 확정했다. 스트롤러는 휴대폰에 20여개의 AI 플랫폼과 100여개의 AI 웹 모델을 설치한 뒤 딥페이크를 만들어 피해자들을 괴롭혔다.
미 법무부에 따르면 스트롤러는 2024년 12월부터 지난해 6월까지 최소 6명의 성인 여성 피해자에게 AI로 생성한 피해자의 누드 이미지 등 딥페이크물을 전송했다. 그는 피해자들의 얼굴 사진을 악용해 가족이나 지인들과 부적절한 행동을 하는 비디오를 만들어 전송했다. 그러면서 추가 사진도 요구한 것으로 드러났다.
스트롤러는 미성년자 딥페이크도 제작했다. 스트롤러는 미성년자들의 얼굴을 다른 성인의 몸에 맞게 변형시켜 부적절한 행동을 하는 동영상을 만들었다. 또 실제 피해자와 딥페이크로 제작한 이미지 약 700장을 아동 포르노 전용 웹사이트에 업로드했다. 스트롤러의 휴대폰에서는 2400장이 넘는 이미지 및 동영상이 발견됐다.
수사당국은 처음에는 단순 지역사회 범죄로 판단했다. 하지만 경찰이 스트롤러가 쓴 발신 번호 조작 앱을 역추적해 그의 휴대폰을 포렌식 하자 수 천개의 동영상이 나왔고 사건은 연방 범죄로 격상됐다. 이후 FBI 분석팀이 스트롤러의 동영상이 딥페이크인 것을 증명해냈고 FBI는 실종학대아동센터와 공조해 스트롤러의 남은 범죄를 모두 밝혀낸 뒤 법정에 세웠다.
TAKE IT DOWN법은 2024년 테일러 스위프트의 얼굴을 합성한 음란 딥페이크 사진이 X에서 확산한 사건을 계기로 만들어졌다. 이 법은 본인의 동의 없이 온라인상에 딥페이크 사진이나 영상을 게시하는 행위를 범죄로 처벌하고 플랫폼에는 피해자로부터 통지받은 지 48시간 이내에 게시물을 삭제할 의무를 부과하는 내용이 중심이다.
미국에서 이런 판결이 나온 가운데 국내에서는 지난 1월 시행된 AI 기본법의 허술함에 대한 지적이 이어진다. AI 기본법은 딥페이크에 표시 의무를 부과하고 플랫폼에 관리 책임을 갖도록 했다. 범죄를 사전에 차단하겠다는 취지다. 딥페이크물을 제작 및 유포하거나 소지한 경우에는 성폭력처벌법에 따라 처벌하도록 규정했다.
하지만 IT 업계에서는 AI 기본법에 이용자 처벌 규정이 필요하다고 지적한다. 현 규정으로는 이용자가 AI 워터마크를 악의로 훼손한 경우 처벌 근거가 부족하다. 또 플랫폼의 책임만 강조해 많은 사람이 이용하는 구글이나 오픈AI 등 글로벌 플랫폼에 비해 국내 플랫폼이 역차별당할 수 있다는 지적도 나온다.
IT 업계 관계자는 "현재 AI 기본법은 딥페이크 생성 단계의 규제는 있지만 유통 단계에 대한 규제가 모호한 상황"이라며 "생성형 AI 기술이 하루가 다르게 발전하는 만큼 규제를 조금 더 촘촘히 만들 필요가 있다"고 강조했다.