생성형 AI를 악용한 딥페이크 이미지 확산이 전 세계적 문제로 떠오르면서 각국 개인정보 감독기구가 공동 대응에 나섰다.
개인정보보호위원회는 국제 개인정보 감독기구 협의체(GPA)가 '인공지능 생성 콘텐츠와 개인정보 보호에 관한 공동선언문'을 채택했다고 23일 밝혔다. 이번 선언에는 한국을 포함해 프랑스, 영국, 싱가포르, 캐나다, 유럽연합(EU) 등 52개국 61개 감독기구가 참여했다.
공동선언문에는 AI 개발·활용 기관이 준수해야 할 네 가지 핵심 원칙이 담겼다.
우선 AI 개발과 운영 단계에서 개인정보 오남용을 막기 위한 기술적·관리적 안전조치를 갖춰야 한다고 명시했다. 동의 없는 성적 이미지 생성 등 위법 행위를 예방할 장치를 마련해야 한다는 것이다.
또 이용자가 AI 시스템의 기능과 한계를 명확히 이해할 수 있도록 충분한 정보를 제공하고, 서비스의 작동 방식에 대한 투명성을 확보해야 한다고 강조했다.
피해가 발생했을 경우에는 즉시 신고하고 신속히 삭제할 수 있는 실효성 있는 구제 절차를 마련해야 한다는 내용도 포함됐다. 특히 아동·청소년 보호를 별도로 강조했다. 연령에 적합한 정보 제공과 추가 보호 조치를 의무화해야 한다는 점을 분명히 했다.
각국 감독기구는 '신뢰할 수 있는 AI 혁신'이라는 공동 가치를 실현하기 위해 정책과 집행, 교육 경험을 공유하고 협력을 강화하기로 했다.
송경희 개인정보위 위원장은 "딥페이크 등 인공지능 콘텐츠 생성 기술의 오남용으로 인한 개인정보 침해 위험에 국제 사회와 공동으로 대응하겠다"며 "앞으로도 국내외의 신뢰 기반 인공지능 활용 환경 조성을 주도해 나가겠다"라고 밝혔다.
한편 이번 공동 대응은 생성형 AI 서비스 악용 사례가 잇따르면서 나왔다. 지난해 12월에는 일론 머스크 테슬라 CEO가 설립한 X의 AI 챗봇 '그록(Grok)'이 미성년자를 성적으로 묘사한 이미지를 생성했다는 논란이 불거졌다. 외신에 따르면 비영리단체 디지털혐오대응센터(CCDH)는 지난해 12월29일부터 올해 1월8일까지 그록이 약 300만장의 성적 이미지를 생성했으며, 이 중 2만3000장이 아동 성착취물로 추정된다고 밝혔다.
