[2026 u클린] 5-① 가짜정보 확산과 부작용
폭격·피해 장면 등 생성형AI 로 '조작'된 콘텐츠 퍼져
청소년, SNS 게시물 비판 없이 수용…수업에도 영향
플랫폼 자체대응 한계…리터러시 교육 강화 '과제'로
# 지난 2월 이란 최고지도자 아야톨라 알리 하메네이가 미국·이스라엘의 공습으로 숨진 직후 SNS(소셜미디어)에 사진 한 장이 퍼졌다. 콘크리트 잔해에 깔린 하메네이의 시신을 구조대가 수습하는 장면이었다. 실제 현장 사진처럼 유통됐지만 당시 이란당국은 시신의 사진을 공개하지 않았다. 영국 팩트체크 기관 풀팩트는 사진에서 구글 AI(인공지능) 도구로 만들거나 편집한 결과물에 새기는 '신스ID'(SynthID)를 확인했다. 시신을 덮은 콘크리트 위에 사람이 서 있는 등 물리적으로 어색한 부분도 있었다. 전쟁의 상징적인 장면처럼 퍼진 해당 사진은 AI가 만든 가짜였다.
이번 중동전쟁에서 폭격과 피해장면을 AI로 새로 만들거나 과거 영상을 최근 전쟁으로 바꾸는 방식으로 '가짜'가 나타났다. 군사게임 화면을 실제 전투처럼 유통하기도 했다. 2015년 중국 톈진의 폭발 영상은 텔아비브 피격장면으로 알제리 축구단의 우승축하 영상은 이란의 공습장면으로 둔갑했다. 게임 '아르마3'의 화면도 실제 방공망 전투로 퍼졌다.
과거에도 전쟁 선전과 조작은 존재했다. 달라진 것은 제작속도와 비용이다. 생성형 AI를 이용하면 전문장비 없이도 폭발과 화재, 군중, 군사장비가 등장하는 영상을 만들 수 있다. 여기에 국가·정치집단의 선전과 조회수 수익을 노린 계정의 목적이 결합했다. 충격적인 장면일수록 공유와 댓글이 늘어나는 플랫폼 구조도 확산을 부추겼다.
AI 가짜뉴스의 피해는 거짓 장면 하나를 믿는 데서 끝나지 않는다. 존재하지 않는 공격의 성과가 실제 전황처럼 받아들여지고 특정 국가와 집단에 대한 공포와 적대감이 커진다. 가짜가 반복되면 실제 사진과 언론보도까지 "AI로 만든 것 아니냐"는 의심을 받는다. 가짜가 진짜의 증거능력까지 무너뜨린다.
플랫폼과 AI가 검증을 대신하지도 못한다. 탐지기는 보정된 실제 사진을 AI 생성물로 오판하고 의미가 크게 바뀐 조작된 사진을 실제로 판단하기도 한다. 챗봇은 존재하지 않는 언론보도를 출처로 만들 수 있다. 가짜를 만드는 기술과 이를 판별하는 기술의 경쟁만으로 문제를 해결하긴 어렵다.
독자들의 PICK!
학교에서도 같은 문제가 확인된다. 경기도 한 고등학교의 A교사는 사회적 주제를 다룬 수업에서 한 학생이 재난 영상이라며 가져온 자료가 실제로는 몇 년 전 다른 나라에서 촬영된 영상이었다고 말했다. 학생은 조회수와 댓글의 반응만 보고 최근 영상이라고 믿었다.
강원도의 한 고등학교에서 13년째 국어를 가르치는 B교사는 "학생들이 가짜뉴스 자체에는 큰 관심이 없지만 인스타그램 게시물은 비판적으로 생각하지 않고 받아들이는 경향이 강하다"며 "교사도 전공 밖 내용이나 사전에 숙지하지 않은 정보라면 오류를 놓칠 수 있다"고 말했다.
올해 시행된 'AI기본법'은 생성형 AI의 결과물과 실제처럼 보이는 이미지·영상·음향에 워터마크를 표시하도록 했지만 워터마크는 화면을 자르거나 다시 촬영하면 사라질 수 있다. 플랫폼이 생성·편집이력을 읽고 게시물에 유지하는 기술적 장치가 함께 필요하다.
확산과 수익구조에도 제동을 걸어야 한다. 전쟁·재난처럼 피해가 큰 사건에서는 출처가 불분명한 콘텐츠의 추천을 줄이고 공유 전에 경고를 표시할 수 있다. AI로 만든 전쟁콘텐츠라는 사실을 숨긴 계정에는 수익배분을 제한하고 반복위반 계정의 도달범위를 낮추는 방안도 필요하다.
이성엽 고려대 기술경영전문대학원 교수는 "플랫폼이 가짜뉴스를 일방적으로 판단해 차단하면 표현의 자유를 침해할 우려가 있다"면서도 "플랫폼 자체의 신뢰성을 위해 허위조작정보 대응기준과 필터링을 더 정교하게 강화할 필요가 있다"고 말했다.
마지막 방어선은 이용자의 교육이다. 한국언론진흥재단 조사에서 고등학생의 82.3%가 조사 직전 1주일간 생성형 AI를 이용한 것으로 나타났다. 그러나 학교의 AI 교육은 교과서보다 개별 교사의 관심과 역량에 의존한다. B교사는 "기존 교육과정이 생성형 AI를 충분히 다루지 않아 교사가 직접 수업과 수행평가를 만든다"고 말했다.
이 교수는 "AI를 올바르게 써야 한다는 공감대는 있지만 관련 기준과 가이드라인, 학생을 설득할 전문인력이 충분한지는 의문"이라며 "AI도 틀릴 수 있다는 점을 인식하고 다른 자료와 전문가의 의견을 교차확인하는 방법을 가르쳐야 한다"고 강조했다.
