"살인사건 범인 알고 있다"…경찰에 거짓 제보한 AI, 무슨 일?

미국 인공지능(AI) 기업 앤트로픽의 AI 모델이 경찰에 허위 살인사건 제보를 제출한 사실이 뒤늦게 드러났다. 앤트로픽은 제보가 이뤄진 지 두 달이 지나서야 문제를 파악했으며 이후 경찰에 알리기까지도 추가로 9일이 걸린 것으로 확인됐다.

10일 뉴시스와 월스트리트저널(WSJ)에 따르면 미국 필라델피아 경찰은 앤트로픽의 AI 모델이 미해결 살인사건 제보 사이트에 거짓 정보를 제출한 사실을 회사 측으로부터 통보받았다고 밝혔다.

문제가 발생한 곳은 필라델피아 경찰이 운영하는 미해결 살인사건 제보 사이트 '필리언솔브드머더스닷컴'이다. 이 사이트는 아직 해결되지 않은 살인사건의 정보를 공개하고 제보를 받는 곳이다. 범인 체포에 도움이 되는 결정적인 정보를 제공하면 2만달러(약 2800만원)의 포상금을 지급한다.

앤트로픽의 AI 모델은 지난 7월 무작위로 선정된 웹사이트에 접속해 상호작용하는 자동화 시험을 진행하던 중 해당 사이트에 허위 제보를 남겼다. 당시 AI는 미해결 살인사건과 관련된 정보를 알고 있는 사람처럼 행동하며 제보 내용을 제출한 것으로 파악됐다. 허위 제보가 접수된 날짜는 7월18일이다. 다만 해당 내용은 스팸으로 분류돼 실제 수사 담당자에게 전달되지는 않았다.

앤트로픽은 제보가 이뤄진 지 두 달 이상 지난 9월28일에야 이런 사실을 인지했다. 이후 문제의 자동화 시험 절차를 중단했지만 필라델피아 경찰에 관련 사실을 알린 것은 지난 7일이었다.

필라델피아 경찰은 9일 성명을 통해 사건 발생 이후 회사 측의 대응이 지나치게 늦었다고 비판했다. 경찰은 허위 제보가 스팸함으로 분류돼 실제 수사로 이어지지 않았더라도 사안의 심각성이 달라지는 것은 아니라는 입장이다.

AI 기업의 안전관리와 당국 신고 문제는 앞서 오픈AI를 둘러싸고도 불거졌다. 지난 2월 캐나다에서 발생한 텀블러리지 총기 난사 사건과 관련해 오픈AI 직원들이 사건 발생 수개월 전 용의자 제시 밴 루트셀라르와 챗봇 사이의 대화를 검토하고 범행 계획을 파악했지만 수사당국에 알리지 않았다는 사실이 알려졌다.

현재 캐나다 브리티시컬럼비아주 정부와 다수의 피해자가 해당 사건과 관련해 오픈AI를 상대로 소송을 제기한 상태다.