딥페이크보다 무서운 딥보이스…국내 대책 논의 첫발도 못떼

"인공지능(AI) 기술을 온전하게 누리기 위해서도 인공지능을 악용한 딥보이스·딥페이크 범죄를 예방하는 시스템 개발과 제도 정비, 이에 앞선 사회적 디지털 윤리 논의가 필수다."

국내외에서 딥보이스(인공지능 음성기술 기반 보이스피싱)·딥페이크 범죄가 빠르게 늘면서 사법당국과 관련업계에서 이런 얘기가 나온다. 범죄에 악용될 가능성 때문에 인공지능 기술의 진보가 가로막히거나 인공지능 기술의 발달로 범죄 피해가 확대 재생산되는 것은 막아야 한다는 것이다.

딥보이스 범죄가 발생하기 전 '진짜 같은 가짜' 목소리를 탐지해 피해를 예방해주는 기술은 아직 상용화 전 단계다. 수천 수만가지로 제작된 딥보이스 제작소스를 일일이 파악해 탐지하는 기술을 만들기도 어렵지만 이런 기술을 연구, 개발하기 위해 필요한 제반 제도부터 제대로 마련되지 않아 기술 개발에 속도가 붙기 쉽지 않은 여건 탓이다.

딥보이스 범죄를 다루는 수사당국이나 관련 기술을 개발하는 업계에서 먼저 제도 정비와 사회적 논의를 요구하는 게 이 때문이다. 이를테면 딥보이스 탐지기술 고도화를 위해서는 개인정보에 해당할 수 있는 일반 음성 데이터 수집과 활용 범위에 대한 논의가 선행돼야 한다. 딥보이스 기술을 활용하게 될 사업자 범위와 이들의 기술적 역량을 어떻게 평가할지도 문제다.

기술 개발 과정은 물론, 개발 이후 적용 단계에서도 부딪힐 수밖에 없는 개인정보보호 문제 역시 풀어야 할 숙제다. 아마존, 마이크로소프트, IBM이 2020년 개발한 AI 안면인식 기술을 미국 경찰당국에 제공하는 것을 중단하거나 철회하겠다고 발표한 것도 이런 이유에서였다.

전문가들은 개인정보보호와 범죄 예방이라는 명제 사이에서 어디까지 인공지능을 활용할 것인지에 대한 사회적 합의가 중요하다고 조언한다.

아쉽게도 국내에서 관련 논의는 아직 첫 발도 못 뗀 상태다. 현재 논의는 보이스피싱 처벌 강화나 피해자 구제에 머문다. 딥보이스 범죄 예방을 포함한 신종범죄에 대한 인식 자체가 낯선 상황이다.

국회에 제출, 발의된 법안도 해외에서 발신된 전화나 문자메시지의 경우 휴대폰에 표시되도록 의무화하는 전기통신사업법 개정안이나 보이스피싱의 범위를 계좌이체뿐 아니라 직접 만나 돈을 건네받는 대면편취형 범죄로 확대하는 내용의 전기통신금융사기 피해 방지 및 피해금 환급에 관한 특별법 일부개정안이 대부분이다.

범죄 예방 기술에 초점을 맞추면 딥보이스를 제작할 때 출처를 식별하거나 범죄에 악용되지 않도록 '워터마크'를 의무화해야 한다는 의견도 나온다. 일반적으로는 로고나 이미지 등 눈에 띄는 워터마크가 흔하지만 픽셀 단위 수준에서 패턴을 숨겨 넣어 사람의 눈에는 띄지 않지만 컴퓨터에서는 식별할 수 있는 워터마크도 있다. 음성에서도 사람의 귀에는 들리지 않도록 소리를 인코딩하는 방법이 있다.

채은선 NIA(한국지능정보사회진흥원) 수석연구원은 "딥보이스 문제는 정보통신망법, 공직선거법, 지능정보화기본법, 민법 등 폭넓게 관련된다"며 "제작·유통에서부터 관련 부작용 예방 등 전반적인 규율을 위해 제작 단계에서의 규제, 서비스 제공자 의무, 피해자 보호대책 등에 대한 논의를 시작해야 할 시점"이라고 말했다.