악의는 더 이상 부지런할 필요가 없다[투데이 窓/남수영]

'악마는 결코 잠들지 않는다'는 오래된 말이 있다. 시기나 왜곡된 원한에 사로잡힌 자들이 타인을 괴롭히기 위해 쏟아붓는 기이한 열정을 꼬집는 말이다. 그런데 몇 번의 명령어만으로 거짓을 짜맞추고 의혹을 부풀릴 수 있는 시대가 되었다. 흠집내기를 위한 논리를 만들고 그럴듯한 문서를 생산하는 AI 덕분에, 악의는 이제 예전만큼 성실하지 않아도 작동한다.

최근 값비싼 변호사 선임 비용 때문에 사법적 구제를 포기했던 소시민들이 생성형 AI(인공지능)의 도움을 받아 직접 소장을 작성하고 '나홀로 소송'에 나선다는 뉴스를 보았다. 전문적인 법률 지식 없이도 소장을 쓰고, 복잡한 행정 절차를 처리해 나갈 수 있다니, 거대한 자본이나 조직의 위계로부터 독립적인 개인의 창의성이 해방될 수 있는 도구로 PC와 뉴미디어 기술을 환영하던 지난 세기의 희망이 어느 정도 실현된 듯 보인다.

기술이 개인의 발언과 권리 행사의 문턱을 낮추는 것은 분명 반가운 일이다. 그러나 사실관계검증의 부족뿐 아니라 객관성을 잃은 AI 환각이 공적 영역에 침투해 행정력 낭비를 초래할 수 있다는 우려는 간과할 수 없다. 존재하지 않는 판례가 국회의 고발장에 포함되어 물의를 빚었던 게 바로 얼마전이다. 사용자의 압력에 따라 허구의 법리와 조작된 결론이 그럴듯한 서류로 만들어져 사회적 신뢰를 갉아먹는다면, 그 피해는 결국 힘없는 개인들에게 돌아갈 것이 분명하다.

AI는 정의를 실현하는 비용뿐 아니라 타인의 삶을 파괴하는 악의의 한계비용도 낮추고 있다. 저열한 악의가 가장 노골적으로 드러나는 곳은 상업적 동력이 뒷받침하는 대중 미디어와 플랫폼의 영역이다. 유튜브와 같은 소위 '관심(attention) 경제'의 생태계에서 자극적인 폭로는 곧장 돈벌이가 되는 조회수로 이어진다. 생성형 AI가 가세하면서 상황은 더욱 타락했는데, 조작된 대화창 정도가 아니라 정교하게 위조된 딥페이크 음성이나 공식 문서들까지, 의혹의 진위와 상관없이 일단 '결정적 증거'라며 대중의 호기심과 분노를 선동하는 경우가 비일비재하다.

이러한 악의의 외주화는 지적 양심을 최후의 보루로 삼아야 할 학술 공간에도 침투한다. 대학과 학회에는 학문적 견해가 다르거나 사적 원한 관계에 있는 동료 연구자를 음해하는 투서가 접수되곤 하는데, 최근에는 그 근거 자료 상당수가 AI로 조작·정리되고 있다는 전언이다. 표적이 된 연구자의 저술과 논문 수십 편을 인공지능에 쏟아붓고 "어떻게든 논란을 만들라"면 어떻겠는가? 사용자가 압력과 편향된 요구에 가장 그럴듯한 수사학적 패턴으로 응답하는 대규모 언어모델(LLM)은 난해한 말장난으로 그럴듯한 표절보고서를 만들어 줄 것이다. 물론 텍스트의 맥락을 무시한다거나, 사유의 심화과정, 학문적 변주의 궤적에 대한 양심적 평가를 하지 못하는 것이 AI의 잘못은 아니다. 치졸한 왜곡을 위해 감당해야할 최소한의 노력도 없이, 기계의 중립적이고 객관적인 외피 뒤로 비겁하게 숨은 악의가 문제 아니겠는가.

문명사회에는 '제도적 마찰(institutional friction)'이라는 게 있다. 신중함, 입증의 고통, 그리고 무고에 따르는 윤리적·법적 책임이라는 마찰력을 통해 사법 체계나 학문 공동체의 구성원들 사이에 작동하는 자정 시스템이다. 생성형 AI는 이 방파제를 단숨에 허물어뜨렸다. 비평을 흉내낸 조악한 고발 문서는 학문 공동체의 동료 평가(peer review) 시스템을 조롱한다. 법정이 환각의 법리를 걸러내고 AI와 싸워야 한다면 그 권위가 땅에 떨어질 것도 분명하다.

인공지능이 자아를 얻어 인류를 지배할 것이라는 먼 미래의 공상과학적 디스토피아를 상상하느라, 우리는 인간이 고도의 기술로 서로를 괴롭히는 끔찍한 현재를 놓치고 있는 것 같다. AI가 출력한 매끄러운 문서들의 행간에서, 우리는 지성의 포기, 제도의 소진, 그리고 타인의 고통을 헐값에 생산하는 시대의 게으름, 그 악을 마주한다. 악의는 이제 부지런할 필요조차 없다.