민주당 후보가 '미국에 죽음을'이라고 적힌 카드를 건네며 웃고 있다. 미시간주 연방상원 선거에 출마한 민주당 압둘 엘사예드 후보를 겨냥해 공화당계 외곽 후원단체 프론트라인 액션을 포함한 슈퍼팩이 유포한 인공지능(AI) 영상의 한 장면이다. 실제 정황이나 발언과는 무관하게 생성형 AI로 제작된 이 딥페이크 영상은 유튜브와 숏폼 플랫폼을 타고 순식간에 수백만회 조회수를 기록했다.
정당 외곽지원조직 슈퍼팩과 생성형 AI 기술이 결합하면서 선거전이 도덕적 해이로 치달은 대표적 사례다. 올해 미국 중간선거가 기술과 무제한 자본이 결합해 유권자의 이성적 판단을 마비시키는 'AI 딥페이크의 거대한 실험장'이 됐다는 지적이 나온다.
무제한 자금 동원 '슈퍼팩'…AI 거대 자본까지 대거 유입
2010년 연방대법원의 '시티즌스 유나이티드' 판결 이후 공식 후보 캠프와 별개로 기업과 개인, 단체로부터 무제한으로 자금을 모금해 정치 활동을 할 수 있는 외곽 후원조직인 슈퍼팩은 미국 정치의 판도를 바꿔놨다.
이번 중간선거에서는 AI 규제 정책 및 산업 주도권을 둘러싼 기술 기업들과 테크 억만장자들의 자금까지 대거 유입됐다. 연방선거위원회 신고 내역 분석에 따르면 오픈AI의 그렉 브록먼을 비롯한 실리콘밸리 인사들과 앤드리슨 호로위츠 등 벤처캐피털, AI 산업 이슈를 다루는 주요 슈퍼팩이 올해 선거 국면에 집행한 자금만 약 8000만달러(약 1070억원)에 육박한다.
이들 슈퍼팩은 당파적 이해관계뿐만 아니라 AI 기술 규제 완화나 자사 산업 보호에 친화적인 후보들을 지원하기 위해 수천만 달러를 경선과 본선에 퍼붓고 있다.
AI 기술이 바꾼 선거전… 딥페이크·가짜 언론·미세 타깃팅
슈퍼팩의 거대한 자금력은 생성형 AI 기술과 결합해 한층 정교하고 은밀한 방식으로 유권자의 미디어 환경을 침투하고 있다.
웨슬리안 미디어 프로젝트 집계에 따르면 이번 중간선거에서 확인된 AI 기반 정치 광고만 220건 이상으로 관련 예산이 1억3700만달러(약 1830억원)를 넘어섰다. 수억원이 들던 영상 제작 비용이 단 몇 분 만에 저렴하게 처리되면서 공포와 분노를 자극하는 자극적 영상이 대량 생산되고 있다.
최근 경합주에서는 지역 뉴스 매체를 가장한 수백 개의 AI 자동화 웹사이트가 기밀하게 가동되고 있다는 언론보도도 잇따른다. AI가 생성한 기사를 통해 특정 정당 후보에게 유리한 이슈를 진짜 지역 뉴스처럼 보도하며 유권자의 신뢰를 왜곡하는 방식이다.
과거에는 유권자 데이터를 분석하는 데 수주일이 걸렸지만 이제는 AI 알고리즘이 유권자의 실시간 미디어 소비 패턴과 성향을 추적해 개별 유권자 맞춤형 반박 메시지나 네거티브 콘텐츠를 몇 시간 내에 자동 생성·송출할 수 있게 된 것도 자본력을 쥔 슈퍼팩들이 미세 타깃팅에 사활을 거는 배경이다.
은밀해진 '어둠의 자금'…법적 책임 사각지대
전문가들은 후보자 캠프가 아닌 외곽지원조직인 슈퍼팩이 AI 기술을 활용한 광고에 집중하면서 책임 소재가 모호해진 게 문제라고 지적한다. 공직선거법상 후보 캠프의 광고는 "나는 이 메시지를 승인했습니다"라는 책임 문구를 명시해야 하지만 슈퍼팩은 익명의 기부금을 바탕으로 공격성 딥페이크 광고를 송출한 뒤 법적 책임에서 빠져나갈 구멍이 크다는 것이다.
트레버 포터 캠페인리걸센터 대표는 "생성형 AI는 정치 자금의 효과를 10배, 100배로 증폭시키는 게임 체인저"라며 "자금력이 풍부한 슈퍼팩이 AI라는 무기를 쥐고 유권자의 가짜 뉴스 및 네거티브 환경을 도배하는 현상은 민주주의의 이성적 담론을 심각하게 훼손한다"고 말했다.