글로벌 회계·컨설팅 업체 PwC가 발간한 인공지능(AI)·전기차 관련 보고서에서 가짜 각주, 출처 오류, 검증되지 않은 정보 등 AI 환각 사례가 다수 발견됐다고 29일(현지시간) 파이낸셜타임스(FT)가 보도했다.
FT에 따르면 AI 검증 업체 GPT제로가 조사한 결과, PwC 중동 법인이 최근 2년간 발간한 '사고 리더십(thought leadership)' 보고서 4건에서 AI가 생성한 것으로 보이는 오류가 확인됐다. 문제가 된 보고서는 기업의 자율형 AI 에이전트 활용 지침, 정부의 공공서비스 개선 방안, 중동 지역 전기차·자율주행차 시장 전망 등을 담았다. 이들 보고서는 PwC 중동 법인이 잠재 고객을 대상으로 전문성을 알리기 위해 발간한 보고서다.
GPT제로 연구진은 인용 자료 다수가 부정확하다고 지적했다. 일부 출처는 실제로 해당 내용을 담고 있지 않았고 존재하지 않는 웹페이지나 논문이 인용된 사례도 발견됐다. 특히 사우디아라비아 수도 리야드 대기질과 관련한 학술 논문은 AI가 만들어낸 가짜 연구일 가능성이 제기됐다.
한 보고서에서는 "교통사고의 90%가 인간 실수 때문"이라는 주장이 두 페이지 안에서 세 차례 반복됐는데, 각각 다른 출처가 붙거나 아예 출처가 없는 등 비정상적인 인용 방식이 나타났다.
PwC 중동 법인은 FT에 "연구의 정확성을 중요하게 여기고 있으며, 확인된 일부 보고서의 참고 인용을 업데이트하고 있다"고 밝혔다. 다만 오류가 어떻게 검토 과정에서 걸러지지 않았는지에 대해서는 구체적인 설명을 내놓지 않았다.
이번 AI 오류 발견은 기업들의 AI 도입을 자문하는 컨설팅업계의 신뢰도에 타격을 줄 수 있다는 지적이 나온다. PwC를 비롯한 주요 컨설팅 회사들은 기업을 상대로 AI를 책임감 있게 활용하는 방안과 AI 오류를 줄이기 위한 거버넌스 및 관리 체계 구축을 자문해 왔다. 하지만 정작 자사 보고서에서 AI 생성 오류를 걸러내지 못하면서 설득력이 약화됐다는 평가다. GPT제로가 앞서 진행한 조사에서도 EY와 KPMG가 발간한 보고서에서 AI 환각으로 보이는 내용이 발견돼 두 회사가 보고서를 철회한 바 있다.