머니투데이

2021년 아랍에미리트(UAE)의 한 은행에서 대기업 임원의 전화를 받고 3500만달러(당시 환율 약 420억원)를 송금했다. 하지만 전화를 건 사람은 기업 임원이 아니라 '인공지능(AI) 딥보이스'로 임원의 목소리를 흉내낸 전화사기단이었다. 평소 이 임원의 목소리를 잘 알았던 은행 관계자는 한치의 의심도 없이 거액을 이체했다. 전화 한통으로 순식간에 수백억원이 털린 것이다. 미국 IT 전문조사업체 가트너는 올해 금융사기범죄 20%에 이런 딥페이크 기술이 악용될 것이라고 전망했다. 우리 경찰청도 지난해 10월 딥보이스를 이용한 보이스피싱을 주의하라는 공익 영상을 냈다. 영상 속 어머니는 딸의 음성으로 '휴대폰 수리비 80만원을 보내달라'는 부탁을 받지만 목소리의 주인은 딸로 둔갑한 사기단이었다. 영상의 제목은 '소름주의 내 딸인 줄 알았는데'. 댓글에는 "공포영화급"이라는 반응이 이어졌다. 인공지능을 악용한 딥보이스 신종범죄 피해가 급증하고 있다. UAE의 사례처럼 해외에서는 한건

전직 주 러시아 미국 대사였던 마이클 맥폴이 지난해 10월 트위터에 "나를 도용한 딥페이크를 유의하라"는 메시지를 올렸다. 맥폴 전 대사는 이 딥페이크에 대해 "러시아의 신종 전쟁무기"라고도 했다. 딥페이크가 단순 범죄를 넘어 외교안보 문제로 비화할 수 있음을 지적한 사례다. 딥페이크는 '딥러닝(심층학습)'과 '가짜(Fake)'를 합성한 용어다. 인공지능(AI)의 딥러닝을 활용해 사진·영상·음성을 도용하거나 복제하는 기술을 일컫는다. 3~4년 전만 해도 인간형 AI나 딥보이스 모델을 제작하려면 몇 시간 분량의 녹화와 녹음자료가 필요했지만 이제는 사진 1장으로도 그 사람인 것처럼 움직이는 영상을 만들 수 있다. 지난해 3·1절 독일 마이헤리티지의 딥페이크 기술을 활용해 네티즌들이 제작한 유관순 열사, 안중근 의사, 윤봉길 의사 등 순국선열의 딥페이크 영상이 대표적이다. MS(마이크로소프트)가 지난달 발표한 음성합성 기술 '발리(Vall-E)'는 불과 3초의 음성 파일로 사람의 목소리

대검찰청은 지난해 한국어에 특화된 '자동 화자(話者) 확인 시스템'을 개발했다. 증거녹취록의 음성을 입력하면 어떤 용의자의 목소리와 일치하는지를 자동으로 비교·대조해 동일인을 찾아주는 프로그램이다. 'CSI' 같은 과학수사물에서 범인의 지문을 입력하면 범죄자 데이터베이스를 뒤져 동일한 지문을 자동으로 검색해주던 지문확인 시스템의 음성판이다. 대검 관계자는 "2016년부터 범죄 용의자의 음성을 식별하는 기술을 꾸준히 연구한 결과"라며 "보이스피싱 등 음성 관련 범죄가 늘면서 이런 기술이 수사에서도 중요해졌다"고 말했다. 하지만 검찰이 어렵사리 개발한 이 기술도 최근 국내외에서 고개를 들기 시작한 '딥보이스(인공지능을 이용해 만들어낸 가짜 목소리) 범죄' 앞에서는 속수무책이다. 현재 시스템은 인공지능이 만들어내는 가짜 목소리를 가짜로 인식하지 못하기 때문이다. 대검이 첨단 신종범죄 대응방안의 우선대책으로 2027년까지 딥보이스 탐지 기술 개발에 나서기로 한 이유다. 대검 과학수사부는

"딥보이스 사기 전화가 오면요? 검찰 직원들도 '일단 끊는 방법밖에 없지 않겠냐'고 하던데요." 김경화 대검찰청 음성분석실장(감정관·언어학 박사)은 지난 10일 머니투데이 인터뷰에서 '인공지능(AI)으로 합성·변조된 목소리를 진짜 목소리와 구분하기가 정말 힘드냐'는 질문에 이렇게 말했다. 김 실장은 2000년부터 대검 음성분석실에서 근무한 검찰 내 대표적인 음성분석 전문가다. 대검 음성분석실에선 주로 전화 통화상 목소리가 실제 피의자의 목소리와 동일한지, 녹음파일이 조작됐는지를 가려내는 일을 한다. 김 실장은 "'국제 음성신호처리학회'에서 매년 훈련된 감정관들이 참여하는 합성음 탐지 챌린지를 여는데 구분율이 점점 떨어진다"며 "전문가들도 식별하기 어려워지는 상황"이라고 전했다. AI 음성 합성·변조 기술이 경력 20년 이상의 내로라하는 전문가도 맨귀로는 진위를 파악하기 힘들 정도로 발전했다는 얘기다. AI 음성 기술 자체가 나쁜 것은 아니다. 이를테면 네이버는 지난해 돌아가신 부모

음성 합성 기술은 말소리의 음파를 기계가 자동으로 만들어내는 기술이다. 목소리를 녹음하면 일정한 음성 단위로 분할해 보관했다가 필요할 때마다 조각난 음성을 합해 목소리를 만들어낸다. 유튜브에서 일명 '봇'이 읽어주는 자막이 이런 기술로 만들어진 대표적인 결과물이다. 과거에는 부자연스러운 억양도 문제지만 조각난 음성을 사람이 일일이 이어붙이는 데 걸리는 시간이 더 문제였다. 1950년대부터 연구된 음성 합성 기술이 기술의 장벽을 넘지 못했던 이유가 여기 있다. 2010년대 중반까지만 해도 음성 합성 분야에서만큼은 기술이 사람을 쉽게 따라오지 못했다. 흉내내는 목소리 기술이 있었을 뿐이다. 상황이 뒤집힌 것은 인공지능(AI)이 등장하면서부터였다. 사람의 뇌를 그대로 재현한 듯한 신경망 회로가 머신러닝과 딥러닝을 반복하면서 말 그대로 말을 배우기 시작했다. 구글이 기존의 음성인식기술 타코트론과 구글 딥마인드가 개발한 웨이브넷을 합해 2017년 출시한 '타코트론2'는 "음~"이나 "어~"

범죄 등에 악용되는 딥페이크 기술이 전세계적으로 새로운 유형의 정치·경제·사회 문제로 떠오르면서 대책 논의가 시작된 가운데 중국이 주요국 가운데 처음으로 기술 규제에 나섰다. 11일 AFP 등 외신에 따르면 중국 중국 국가사이버정보판공실(CAC)이 지난 10일부터 '인터넷 정보 서비스 딥 합성 관리 규정'을 시행했다. 인공지능(AI) 기술을 이용해 사진이나 영상, 오디오를 합성하는 딥페이크 기술로 허위 정보를 퍼뜨리거나 범죄 등에 이용하는 것을 막겠다는 목적이다. WSJ에 따르면 이 규정은 인공지능이 만들어낸 콘텐츠 사용을 금지한다. 딥페이크 기술을 사용해 콘텐츠를 만들 때는 '딥페이크 기술이 사용됐다는 사실을 명시해야 하고 원본을 추적할 수 있도록 워터마크(디지털 표시)를 넣도록 했다. 딥페이크 기술로 누군가의 이미지나 목소리를 합성해 편집하려고 할 때는 당사자 동의를 구해야 한다. 언론 보도에서 딥페이크 기술을 사용할 때는 정부가 승인한 매체 원본만 활용할 수 있게 했다. 미국

"인공지능(AI) 기술을 온전하게 누리기 위해서도 인공지능을 악용한 딥보이스·딥페이크 범죄를 예방하는 시스템 개발과 제도 정비, 이에 앞선 사회적 디지털 윤리 논의가 필수다." 국내외에서 딥보이스(인공지능 음성기술 기반 보이스피싱)·딥페이크 범죄가 빠르게 늘면서 사법당국과 관련업계에서 이런 얘기가 나온다. 범죄에 악용될 가능성 때문에 인공지능 기술의 진보가 가로막히거나 인공지능 기술의 발달로 범죄 피해가 확대 재생산되는 것은 막아야 한다는 것이다. 딥보이스 범죄가 발생하기 전 '진짜 같은 가짜' 목소리를 탐지해 피해를 예방해주는 기술은 아직 상용화 전 단계다. 수천 수만가지로 제작된 딥보이스 제작소스를 일일이 파악해 탐지하는 기술을 만들기도 어렵지만 이런 기술을 연구, 개발하기 위해 필요한 제반 제도부터 제대로 마련되지 않아 기술 개발에 속도가 붙기 쉽지 않은 여건 탓이다. 딥보이스 범죄를 다루는 수사당국이나 관련 기술을 개발하는 업계에서 먼저 제도 정비와 사회적 논의를 요구하는