대표적인 학술검색 엔진 '구글 스칼라'에서 생성형 AI(인공지능) 챗 GPT로 작성한 '가짜 논문'이 대량 발견됐다. 전문가들은 이같은 논문이 학계를 넘어 대중으로 확산될 경우 가짜 과학적 증거로 오용될 가능성이 높다고 우려한다.
스웨덴 보로스대 연구팀이 학술지 '하버드케네디스쿨 오보(misinformation) 리뷰'에 최근 발표한 연구 결과에 따르면, 챗 GPT를 사용해 논문을 조작한 흔적이 있는 과학기술 분야 논문 139건이 구글 스칼라에 공개돼 각종 학술 플랫폼으로 확산됐다. 이중 약 15%는 WoS(Web of Science), 스코퍼스(Scopus) 등 세계적인 학술논문 데이터베이스에 등재된 저명 학술지에 게재됐다.
연구팀은 인터넷 공간에 '학술' 명목으로 게재된 자료 대부분을 자동 수집해 무료로 공개하는 구글 스칼라의 특성에 주목했다. 동료심사를 거치지 않은 사전 공개 논문이나 석·박사생 과제 수준의 논문도 구글 스칼라에서는 학술 자료로 분류된다. 또 개별 저자가 검증을 거치지 않는 자신의 논문을 자체적으로 구글 스칼라에 등록할 수 있다는 점에서 신뢰도에 상당한 위험이 있다고 봤다.
연구팀은 'GPT-3.5', 'GPT 4' 모델에 '논문 식'으로 글을 쓰라고 했을 때 일반적으로 사용하는 글의 짜임새와 문장 형태, 단어 등을 추렸다. 해당 문장과 단어가 반복적으로 다수 등장하는 논문은 AI로 만들어냈을 가능성이 높다고 봤다. 그 결과 227개 논문이 걸러졌다. 이어 논문의 세부 연구 내용을 검토하고, "작성 시 챗 GPT를 활용했다"고 명시한 논문은 대상에서 제외했다. 최종적으로 139개 논문이 AI로 작성했음에도 사실을 밝히지 않고 게재한 것으로 확인됐다.
139개 논문 중 19건은 국제 학술논문 데이터베이스에 등재된 이른바 '주류' 학술지에 게재됐다. 국제 학술대회 회의록에 참고자료로 이름을 올린 논문도 있었다. 89건은 데이터베이스 미등재된 학술지에 발표된 논문이었고, 나머지 31건은 학생이 졸업 논문 등으로 제출한 자료거나 학술지에 정식 게재되지 않은 논문이었다.
AI 작성 논문의 절반 이상은 보건·의료, 환경, 컴퓨팅 분야에서 나왔다. 보건 분야에서는 특히 '코로나19 바이러스', '감염', '원격의료' 등의 단어가 다수 발견됐다. 환경 분야에서는 '지속가능성', '글로벌' 등의 단어가 자주 등장했다. 연구팀은 "기후 정책, 다양성, 배터리 등 시대적으로 유행하는 단어를 제목과 내용에 사용함으로써 매우 광범위한 주제를 다루는 최신 연구인 것처럼 보이게 했다"고 평가했다.
이들 논문은 구글 스칼라에서 시작해 각종 온라인 학술 플랫폼으로 확산된 것으로 확인됐다. '리서치 게이트', 'ORCoiD' 등 대표적인 학술 플랫폼은 물론 'X(옛 트위터)' 등 소셜네트워크서비스(SNS)를 통해서도 여러 차례 공유됐다.
연구팀은 "검증되지 않은 논문이 확산될 경우 학계를 넘어 언론, 정치인, 학생, 심지어 병을 앓는 환자의 가족에게까지 잘못된 정보가 닿을 수 있다"고 우려했다. 사회적으로 논란이 될 수 있는 주제에 이들 논문이 '과학적 증거'로 활용될 가능성도 점쳤다. 그럴듯한 논문의 모양새인 만큼 각종 음모론을 뒷받침하는 데 조직적으로 악용될 수 있다는 것.
연구팀은 "독자가 직접 논문의 게재 저널, 동료 평가 여부 등을 확인할 수 있도록 학술 검색 엔진에 세밀한 필터링 옵션을 추가해야 한다"고 제언했다.