머니투데이

구글이 '사칭'과의 전쟁에 나섰다. '딥페이크(Deepfake)'를 활용한 사칭 영상이 유튜브에서 범람하는 가운데 AI(인공지능)를 악용한 범죄를 AI기술로 뿌리 뽑기 위한 시험에 나선다. AI가 유명인의 얼굴 데이터를 사전 학습하고, 이를 기반으로 유명인 사칭 영상·광고가 유튜브에 불법적 용도로 등장하면 적발해 조치하는 방식이다. 20일 플랫폼 업계와 관계당국 등에 따르면 구글은 사칭 광고 근절을 위한 기술적 방안 중 하나로 유명인의 얼굴 데이터를 활용하는 방안을 시험 중이다. 국내에서는 실제로 사칭 광고 등에 얼굴을 도용당한 다수 유명인들을 대상으로 협조를 요청한 것으로 알려졌다. 최근 딥페이크 기술이 대중화하면서 유명인의 얼굴을 도용한 투자 사기가 기승이다. 유튜브·인스타그램·페이스북 등 주요 플랫폼에 유명인이 등장해 유망한 주식 투자 종목을 추천하거나 재테크 도서·강연 등을 권하는 사진·영상 등을 올리고, 관심을 갖는 사람에게 투자금을 요구한 뒤 편취하는 수법이다. 물론 광

최근 유명인을 사칭한 온라인 피싱 사례가 증가하면서 국내외 플랫폼 역시 강력 제재로 대응에 고삐를 죄고 있다. 다만 이 같은 노력에도 온라인 플랫폼상에 '사칭 광고'는 근절되지 않고 있다. 이에 대해 플랫폼 업계는 '유명인'이라는 범주가 불명확해 이를 완전히 걸러내는 데에 애매한 부분이 있고, 일부 기술적인 한계도 있다고 입을 모은다. 20일 업계에 따르면 국내 대표 플랫폼 네이버(NAVER)와 카카오는 사칭 광고에 대한 신고 및 모니터링을 강화하고 있다. 지난해 10월부터 본격 시작된 연예인, 경제전문가 등 유명인 사칭 범죄는 페이스북에서 시작돼 유튜브로 번졌으며, 카카오톡 네이버 밴드 등의 플랫폼을 통해 기하급수적으로 퍼졌다. 이에 네이버는 지난해 11월부터 사칭 계정이 개설한 밴드에 일괄적으로 제재를 가하는 등 징계 기준을 강화하고, 24시간 집중 모니터링을 운영하고 있다. 또 사칭 투자 유도 밴드에 대한 신속한 조치가 가능하도록 밴드 서비스 내 '신고하기' 사유에 '사칭'

"나는 손흥민입니다. 제 인스타그램 팔로워가 1400만을 돌파했다는 기념으로 저는 4월에 최신으로 폭등한 3가지 블루칩 종목을 공유하고 있습니다. 제 보조자의 카톡을 추가하려면 아래 버튼을 클릭하세요." 유튜브 동영상을 보다 보면 중간 광고에 손흥민이 나온다. 손흥민의 목소리와 표정, 목소리를 흉내내며 투자하라고 꼬드긴다. 광고에 나온 홈페이지에 접속해보면 "축구선수로서 활약하는 동안 투자에도 많은 년동안 참여해왔다" 등 번역기로 돌린 듯한 어설픈 한국어 문구로 버튼 클릭을 유도한다. 물론 이는 가짜다. AI(인공지능) 기술의 발달로 누구나 손쉽게 딥페이크 동영상과 음성, 사진을 만들어낼 수 있게 되면서 나타난 AI 일상화의 어두운 이면이다. 딥페이크란 딥러닝(Deep Learning)과 페이크(Fake, 가짜)의 합성어다. 조금만 주의를 기울이면 가짜라고 알 수 있는 것들도 있지만 AI 기술의 발달은 감쪽같이 속아넘어갈 정도로 정교한 딥페이크물의 생성을 가능하게 했다. 단순한 오락

유명인 사칭 온라인 피싱 피해가 증가하면서 정부도 대응책 마련에 나섰다. 방송통신위원회(방통위)와 개인정보보호위원회(개인정보위) 등 주무 부처를 중심으로 불법게시물 삭제 요구 등 방안이 나온다. 지나치게 빠른 사칭 게시물 확산으로 정부 대책에 실효성이 없다는 지적도 나오지만, 범정부 TF(태스크포스)까지 운영하며 손 놓고 있던 플랫폼을 움직이게 했다. 정부는 지난해 하반기부터 사칭 광고 피해를 막기 위해 플랫폼과 협력 체계를 구축했다. 개인정보위는 지난해 10월 네이버·카카오·X(옛 트위터)·메타(옛 페이스북) 등 주요 플랫폼 사업자에 피해자 신고 절차 안내·타인 사칭 계정에 대한 통제 장치 운영 강화 등 개인정보보호 강화 조치를 긴급 요청했다. 한국인터넷진흥원(KISA)이 운영 중인 플랫폼 기업과의 직통회선(Hot-line)으로 불법 게시물 탐지·삭제 등 대응도 강화했다. 방송통신심의위원회(방심위)도 발맞춰 사칭 광고에 대한 시정 요구를 결정하고 관련해 경찰 수사를 의뢰했다. 그