생성형 인공지능(AI) '그록'으로 음란물을 제작할 수 있는 방법이 온라인상 퍼지고 있다. 성인인증 절차가 없어 청소년들에게도 무방비로 노출된다. 처벌 규정도 명확지 않아 실질적 제재가 어렵다는 지적도 나온다.
15일 기자가 온라인 커뮤니티에 확산하고 있는 '검열해제 프롬프트'를 그록에서 사용하자 단 10분만에 AI 성인영상물을 제작할 수 있었다. 각종 프롬프트를 조합해 영상을 만들자 여성 신체가 그대로 노출됐고 성행위까지 적나라하게 구현됐다.
개발사에서 지난 11일 검열 기능을 강화했으나 곧바로 이를 우회하는 방법이 공유되고 있다. 이용자들은 음란물 제작 성공 후기 영상을 올리면서 음란물에 대한 감상평을 남기기도 했다. 별도 성인 인증과 유료 결제는 필요 없었다. 청소년을 보호할 수 있는 최소한의 안전장치도 마련되지 않은 셈이다.
전문가는 성에 대한 가치관 확립이 제대로 되지 않은 청소년의 경우 AI 음란물을 통해 부적절한 사고방식을 향유할 수 있다고 우려했다. AI로 다양한 콘텐츠를 창출해나가는 시대에 기술 활용력이 높은 청소년을 규제할 수 있는 준비는 부족한 실정이라고 지적했다.
권일남 명지대 청소년지도학과 교수는 "지금까지 청소년 보호 규제가 강하게 이뤄지던 분야는 소셜미디어였다"면서 "AI가 청소년에게 끼칠 수 있는 파장이 더 클 수 있는데 현재까지 이에 대한 대응이 미흡해 보인다"고 했다.
현행법상 실존 인물이 아닌 AI로 만들어진 음란물은 처벌 규정이 명확지 않다. 김명주 AI 안전연구소장은 "AI 캐릭터로 이뤄진 음란물은 실제 사람 신체가 아니기 때문에 처벌이 어렵고 이뤄진다고 하더라도 경범죄 수준에 불과할 것"이라고 말했다.
이어 "미국에서도 아동으로 보이는 휴머노이드 로봇이나 AI 캐릭터를 포르노로 만들면 처벌하게 하는 법이 개정된 것처럼 기존 법이 처벌하지 못하는 공백 부분을 계속 찾아야 한다"고 했다.
다음달 시행되는 인공지능기본법도 음란물 제작 및 유포 행태를 완전히 예방하긴 어렵다고 했다. 김 소장은 "미국 기업은 미국 법을 따르게 돼 있고 AI 기본법의 제재 대상이 된다고 하더라도 과태료 3000만원 정도다. 강제조건이 약해 해외 기업을 제재하기에 불리할 것"이라고 했다.
독자들의 PICK!
결국 기업에 대한 제재뿐 아니라 이용자 관리에도 초점을 맞춘 법·제도가 필요하다는 의견도 나온다. 김형준 AI법제도센터장은 "AI 기본법은 인공지능 사업자들이 이용자 권리와 권익 등을 위해 지켜야 하는 기본적인 규범들을 마련한다는 취지"라며 "이용자들이 AI를 활용하면서 생기는 문제를 모두 규제하고 해결하기에는 해당 법으로는 한계가 있다"고 했다.
이어 "상황에 따라서 이용자들이 AI를 어떻게 사용하고 거기서 파생된 문제를 해결하기 위한 법은 세부적으로 접근해 만들어질 필요가 있다"고 부연했다.
