EU, "AI로 만든 콘텐츠" 표시 안하면 과징금 264억…딥페이크도 규제

유럽연합(EU)에서 인공지능(AI) 생성 콘텐츠에 관련 표시를 하지 않으면 최대 264억원의 과징금을 물 수 있게 됐다.

2일(현지시간) 유로뉴스에 따르면 EU는 딥페이크 등 AI 생성물에 표시를 의무화하는 내용이 담긴 AI 투명성 규정을 이날부터 시행한다.

기업들은 챗봇 등 생성형 AI 시스템을 EU 시장에 출시하려면 이미지, 음성, 영상, 텍스트 등 AI가 생성하거나 조작한 콘텐츠에 워터마크나 메타데이터 등 기계가 판독할 수 있는 표시를 넣어야 한다. 또 사용자가 딥페이크에 노출될 때는 이를 반드시 알려야 한다.

공익적 정보 전달을 목적으로 한 콘텐츠라도 인간의 편집이나 감독 없이 AI로 생성됐다면 사용자에게 고지해야 한다. 일반 대중의 관심사를 다루는 정보성 텍스트라도 사람의 편집 감수 없이 AI로 제작됐다면 표시 의무가 적용된다.

다만 개인이 순수한 사적 목적으로 AI를 이용하는 경우는 규제 대상에서 제외된다. 예술·창작·풍자·픽션 목적의 작품은 예외로 인정된다. 기존 AI 시스템은 오는 12월 2일까지 법 적용을 유예 받는다.

이번 조치는 EU가 2024년 AI 규제 법률로는 세계 최초로 마련한 'AI법'(AI Act)의 단계적 시행에 따른 것이다. AI법이 순차적으로 시행됨에 따라 오는 12월부터는 선정적 딥페이크를 생성하는 AI 시스템에 대한 제재가 시작된다.

EU 집행위원회는 규정을 위반한 기업에 시정명령을 내리고 위반 유형에 따라 과징금을 부과할 방침이다. 최대 1500만유로(약 264억원) 또는 전 세계 연 매출의 3%에 해당하는 과징금이 부과될 수 있다. AI법상 가장 중대한 위반의 경우, 직전 회계연도 전 세계 연간 매출의 최대 7% 또는 3500만유로(약 590억원) 가운데 더 큰 금액을 과징금으로 내야 한다.

EU 관계자는 "생성형 AI가 특정 대상을 겨냥한 허위정보를 전례 없는 규모로, 빠른 속도로 유포할 수 있게 만든다며 이용자들이 보고 듣고 읽는 것을 신뢰할 수 있도록 하는 게 규정의 목적"이라고 밝혔다.

주요 기업들도 대응에 나섰다. 틱톡은 크리에이터 계정에 AI로 제작된 이미지·오디오·영상에 라벨을 붙이도록 요구하고 있다. 메타는 인스타그램과 페이스북에 AI 활용 게시물을 표시하는 표시를 도입했다. 구글은 AI 투명성에 관한 EU 행동강령에 서명하고 엔비디아, 오픈AI, 애플 등과 함께 디지털 태깅 기술을 개발 중이다. 디지털 태깅 기술은 AI 생성물에 눈에 보이지 않는 표시를 해서 나중에 AI로 생성됐는지 판별할 수 있게 하는 기술이다.

규제 실효성에 대한 회의적인 시선도 있다. 구글의 카렌 매신은 "서로 다른 AI 라벨과 법적 고지가 콘텐츠에 뒤섞이면 오히려 이용자들이 명확한 맥락을 파악하기 어려워질 수 있다"며 '규제 복잡성'에 대한 우려를 제기했다.