'AI 슬롭' 문제 해결할 소버린 AI[투데이窓/김헌식]

글로벌 빅테크 기업들이 국내에서도 새책이나 헌책을 가리지 않고 다량의 도서를 구입하는 것은 AI 슬롭(Slop) 현상에 대응하려는 조치다. 슬롭(Slop)은 원래 진흙탕이라는 뜻이었지만 19세기 들어 음식물찌꺼기나 가축에게 주는 묽은 사료를 뜻하게 되었다. AI 슬롭(Slop)은 생성형 AI로 양산된 콘텐츠를 일컫는 멸칭(蔑稱)이다. 미국 메리엄웹스터 사전은 AI 슬롭(slop)을 "AI로 대량 생산되는 저품질 디지털 콘텐츠"로 정의했고, 문제의 심각성 때문에 2025년 올해의 단어에 선정되기도 했다. 저품질 디지털 콘텐츠에는 텍스트뿐 아니라 이미지·영상·오디오를 모두 포함한다. 영상 플랫폼에서 AI 슬롭 비율은 틱톡 60%, 유튜브 20%로 조사되기도 했다. 질 낮은 콘텐츠는 올바른 판단을 저해할 뿐만 아니라 뇌건강에도 좋지 않을 수 있기 때문이다.

AI 슬롭(Slop) 피드백 루프는 악순환의 속성을 갖는다. 근거가 빈약하거나 허위의 콘텐츠의 조회수가 높아지면 비슷한 콘텐츠가 양산된다. 많이 퍼질수록 AI 학습은 만연된다. 가짜 정보를 흡수해 생성하기에 AI 학습은 양질이나 고품질이 될 수 없다. 저품질의 AI 콘텐츠가 다시 사람들에게 주목을 받아 다시 학습데이터로 쓰인다. 재활용된 재질이 반복하는 가운데 더 하향 곡선을 그리는 것은 당연하다. 이러한 모델은 장기 지속할 수 없고 결국 모델 붕괴에 이른다. 이를 막을 해법은 양질의 데이터를 공급하는 것이다.

빅테크 기업들은 이를 기존 출판물에서 찾고 있다. 특히 생성형 AI 가 본격적으로 서비스하기 이전에 발행한 중고책에 더 관심을 갖는다. 하지만 중고책도 신간과 마찬가지로 저작권 문제가 해결돼야 한다. 엔트로픽이 무단으로 전세계 작가들의 책을 생성형 AI 학습 시켜 큰 파장을 낳았다. 이는 다른 빅테크 기업도 부딪히는 난제다.

문제는 한국이 AI 슬롭(Slop)의 아성이란 점이다. AI 영상 편집 플랫폼에 따르면 유튜브 채널 상위 100개에서 AI 슬롭 채널 조회 수가 많은 20개 국 가운데 한국이 1위였다. 가장 많은 조회 수의 AI 슬롭 채널 10개에서 4개가 한국 채널이었다. 한국이 이렇게 AI 슬롭이 많아진 요인은 몇 가지로 요약된다. 우선 유행의 민감도가 높다. 유행하는 정보나 콘텐츠에 대한 추구 행위가 즉각적이다. 유행 콘텐츠를 보지 않으면 소외감의 불안감을 갖는다. 아울러 동조성을 당연시한다. 타인이 많이 접속한 콘텐츠를 틀리지 않다고 여기기 때문에 콘텐츠의 수용도가 크다.

정보 소비 패턴도 빠르다. 어떤 사건이나 현안을 충분히 숙고하기 보다는 인터넷, 특히 사회관계망 서비스에 공유되는 정보를 쉽게 받아들인다. 그런데 이런 AI 슬롭 콘텐츠가 인터넷에 머물지 않는다. 책으로 흘러들어갈 수 있고 논문 작성에도 이용된다. AI를 활용하여 발간된 저작물이나 논문이 폭증하고 있는 것은 이를 방증한다. 논문 사전공개 사이트는 AI가 만든 명백한 오류가 논문에 들어 있으면 저자의 제출을 1년간 금지하는 조치를 시작했다.

K 콘텐츠도 우려스럽다. 이미 해외에서는 AI를 활용해 열성적으로 콘텐츠를 제작하는 한국을 우려의 시선으로 바라보고 있다. 특히 K팝의 노래나 뮤직비디오 그리고 가상아이돌에 AI가 사용된다. 진정성을 아우르는 아티스트의 고유한 가치에 대한 우려인데 과연 이러한 AI 슬롭에 대해 한국이 대비를 하고 있는지 알 수 없다. 이미 AI 음악의 학습 데이터가 논란을 일으키고 있다. 무엇보다 데이터 주권이라는 소버린 AI(Sovereign AI)는 이런 AI 슬롭(Slop) 문제를 해결해야 한다. 오염되지 않은 질적 수준 이상의 데이터 공급이 선순환을 이룰 수 있게 해야 한다. 저작권이 확립된 창작물과 논문 등을 학습데이터로 삼아야 한다.