모르는 게 생기면 인공지능(AI)부터 찾는 시대다. 코딩, 회의록 정리, 이미지 제작, 보고서 작성, 발표 자료 준비에 이르기까지 각종 업무를 AI에게 맡기는 풍경이 이제 낯설지 않다. AI는 업무 속도를 획기적으로 끌어올리며 직장인들의 가장 부지런한 동료로 자리 잡았다.
하지만 최근 세계 무대에서 벌어진 몇몇 사건들은 AI가 제공하는 편리함 뒤에 불편한 현실을 보여준다. AI도 틀릴 수 있다는 말을 하려는 게 아니다. 인간이 그 답을 너무 쉽게 믿고 있다는 게 문제다. 공적인 신뢰성과 전문성을 생명으로 하는 미 국무부, 글로벌 컨설팅 업계조차 AI를 맹신한 대가를 피하지 못했다.
지난주 브라질 리우데자네이루에서 열린 '에이즈 콘퍼런스'의 사전 행사. 미 국무부 소속 보건 특사가 새로운 보건 협정에 관해 발표하면서 화면에 띄운 아프리카 지도는 그야말로 엉터리였다. 해안선만 800㎞가 넘는 서아프리카 국가 나이지리아는 사하라 사막 한가운데 있는 내륙국처럼 표시됐다. 아프리카 남부에 있는 모잠비크는 에티오피아가 있는 동부 지역으로 이동했고, 서아프리카 연안국 코트디부아르는 동남부에 배치됐다.
이 지도는 AI를 이용해 제작된 것으로 알려졌다. 국무부는 행사 직전 발표 자료를 수정하는 과정에서 오류가 발생했다고 해명했지만 아프리카 국가들과의 협력을 논의하는 자리에서 불거진 이 실수는 단순한 해프닝을 넘어 외교적 결례라는 비판이 쏟아졌다.
비슷한 일은 내로라하는 글로벌 컨설팅 업체에서도 벌어졌다. 세계적 회계·컨설팅 업체 PwC 중동 법인이 지난 2년간 발간한 AI·전기차 관련 보고서에서는 존재하지 않는 논문과 웹페이지, 잘못된 출처 등 AI 환각(할루시네이션)으로 추정되는 오류가 무더기로 발견됐다. 오류는 가짜 출처에 그치지 않고 핵심 논거 왜곡으로까지 이어졌다. 또다른 컨설팅사 EY와 KPMG가 발간한 보고서들도 AI 환각으로 인한 허위 내용이 확인돼 철회된 바 있다. 산업계의 AI 도입을 자문해온 컨설팅 업체들이 정작 자신들의 보고서에서 AI 오류를 걸러내지 못한 셈이다.
AI를 맹신한 대가는 결국 망신이었다. AI 기술의 한계도 문제이지만 "설마 AI가 틀렸을까"하는 방심이 진짜 문제였다. 지도 제작 과정에서 아프리카 국가들의 위치를 한 번만 확인했더라면, 보고서의 참고 문헌을 한 번씩이라도 검증했더라면 막을 수 있었던 오류였다. AI가 완벽하게 보이는 답을 제시할 때 한 번 더 의심하고 검증하는 태도. AI가 일상이 된 시대에서 인간이 잃지 말아야 할 진짜 능력은 여기에 있을 것이다.