이재명 대통령 "AI 창작물 위험성 현실화…대비책 있어야"

이재명 대통령이 "인공지능 창작물이 갖는 위험성이 지금도 현실화되고 있는데 이에 대한 대비책이 있어야 할 것 같다"고 강조했다.

이 대통령은 16일 청와대에서 열린 '2026 하반기 부처 업무보고'에서 이같이 말했다. 이날 이 대통령은 과학기술정보통신부, 우주항공청, 개인정보보호위원회, 방송미디어통신위원회 등으로부터 보고를 받았다.

이 대통령은 이날 "얼마 전에 디지털, 그러니까 인공지능으로 만든 무슨 그림으로 누군가를 이상하게 만든 게 꽤 시끄러웠다"며 이같이 밝혔다.

이 대통령은 "인공지능(AI)로 만든 이미지, 동영상에 AI로 만들었다는 것을 표시하는 게 의무인가"라고 물었다.

이에 대해 류제명 과학기술정보통신부 제2차관은 "딥페이크는 무조건 가시적 표시를 하도록 법상에서 요구하고 있다"며 "딥페이크는 실존하는 사람, 현상을 모티프로 한 것, 변형하고 왜곡한 것 등을 말한다"고 했다.

이 대통령은 "예를 들면 특정 여성을 (악용해 딥페이크로 이미지 등을 조작) 그렇게 했는데 표시 안하면 제재 대상인가"라고 물은 뒤 "요즘은 인공지능 창작물인지 실제 상황인지 구분이 안 될 정도로 너무 실제 영상과 유사하다. 그래서 표시를 안해주면 진짜라고 사람들이 인식한다. 표시를 안하면 오해가 심하게 유발될 것 같다. 악용되는 게 정말 심각하다"고 했다.

이에 김종철 방미통위 위원장은 "이용자 보호와 균형을 맞춰 가는 게 정부 미디어 환경 기준에 맞는 것 같다"며 "이것은 개인정보 보호와 관련돼 보안이 그냥 부수 비용이 아닌, 필수 비용이 된 것처럼 이용자 보호를 위한, AI 오남용을 막기 위한 것과 AI 기술 발전은 병행해서 가야지 따로 갈 수 없는 것"이라고 강조했다.

한편 최근 이언주 더불어민주당 의원은 딥페이크 성적 합성물 피해 사실을 확인한 후 지난 3일 병원에 입원해 치료를 받고 11일 퇴원했다. 이 의원은 악의적인 디지털 성폭력에 맞서 합성 음란물 제작자와 유포자를 대상으로 가능한 모든 법적 조치에 나선 상황이다.