논문에서 언급한 참고문헌 가운데 발견된 가짜 인용이 2025년 한 해에만 14만6932건에 이르는 것으로 나타났다.
국제학술지 '네이처'는 인 이앤 코넬대 정보과학 교수 연구팀이 사회과학·생명과학·의학 등 250만편의 논문에서 언급한 참고문헌 1억1000만편의 출처를 검증한 결과 참고문헌에 이름을 올렸지만 실제로는 존재하지 않는 가짜 논문을 14만개 이상 찾아냈다고 밝혔다.
이는 논문 작성자가 별도의 검증 없이 AI(인공지능)의 답변을 활용하다 보니 나타난 결과로 해석됐다. 특히 소규모 연구그룹이나 2022년 이후 연구를 시작한 초기 경력자 그룹, AI 활용이 빠른 학술분야 등에서 이런 경향이 두드러지게 나타났다.
'SSRN'(사회과학연구네트워크)에 게재된 사회과학분야 논문에서 AI가 만들어낸 허위 출처를 인용한 사례가 1.19%로 가장 높았고 이어 △물리분야 0.39% △의학분야 0.27% △생명과학분야 0.21% 순으로 나타났다.
AI는 주로 학계에서 잘 알려진 신뢰도 높은 연구자의 이름을 사용했다. 성별로 보면 남성 연구자의 이름이 가짜 출처로 자주 등장했다. 연구팀은 논문에서 "AI가 만들어낸 오류가 과학적 인정(연구업적, 인용률 등)의 불평등을 강화할 수 있다는 뜻"이라고 했다.