정부가 국가 R&D(연구개발) 과정에서 AI(인공지능)를 활용하더라도 연구 결과에 대한 최종 책임과 권리는 연구자에게 있다는 원칙을 세웠다. 연구에 사용한 AI 모델과 활용 범위를 공개하고 국가 R&D 과제 평가나 논문 심사 자료를 외부 AI 서비스에 입력해서는 안 된다는 기준도 마련했다.
과학기술정보통신부는 국가과학기술자문회의 운영위원회 심의·의결을 거쳐 이 같은 내용의 '국가연구개발 AI 연구윤리 가이드'를 확정했다고 20일 밝혔다.
연구 현장에서 생성형 AI 활용이 빠르게 확산하면서 생산성이 높아진 반면 AI가 만들어낸 부정확한 정보와 기존 자료의 편향, 보안·개인정보 유출, 출처가 불분명한 자료의 인용 등 새로운 연구윤리 문제가 불거진 데 따른 조치다.
가이드의 기본 원칙은 국가 R&D에서 AI의 역할을 '도구'로 한정하는 것이다. AI를 이용해 자료를 수집하거나 분석·번역하고 연구 결과물을 작성하더라도 결과에 대한 책임과 권리는 AI가 아닌 연구자에게 귀속된다.
이를 위해 정부는 △사실관계 검증 △주체적 판단 △투명성 확보 △결과 신뢰성 관리 △정책·규정 준수 △보안 확보 △개인정보 보호 등 7대 권고사항을 제시했다.
연구자는 AI 생성물에 오류가 없는지, 핵심 자료가 누락되지는 않았는지, 출처가 실제 존재하고 신뢰할 수 있는지 직접 검증해야 한다. AI가 만든 자료 역시 그대로 사용하는 대신 논리적 타당성과 전문지식을 토대로 검토하고 자신의 관점을 반영해 재구성하도록 했다.
AI 활용 사실을 밝히는 기준도 마련했다. 연구 과정에서 AI를 사용했다면 모델과 버전은 물론 정보 수집, 데이터 추론, 연구데이터 정리, 번역 등 어떤 목적으로 어느 범위까지 활용했는지를 공개해야 한다. 과기정통부는 이를 위한 'AI 활용 여부 공개 서식'과 연구자가 스스로 준수 여부를 확인하는 자가진단표도 제공한다.
보안 기준도 명시했다. 연구자는 소속 연구개발기관이 허가한 보안 환경과 AI 도구를 이용해야 하며 개인정보가 포함된 자료는 AI 서비스에 입력하지 않도록 주의해야 한다. 특히 국가 R&D 과제 평가와 논문 심사 과정에서는 평가 대상 자료를 외부 AI에 입력하지 않도록 했다. 피평가자 역시 AI를 이용한 '은닉 프롬프트' 등으로 정당한 심사 기준을 우회하거나 평가 결과를 왜곡하려는 시도를 해서는 안 된다.
홍순정 과기정통부 성과평가정책국장은 "AI는 연구의 효율성을 혁신적으로 높일 수 있는 유용한 도구지만 그에 대한 최종 책임은 언제나 연구자에게 있다"며 "책임 있는 AI 활용 문화를 정착시키고 국가연구개발의 연구 진실성을 확보할 수 있는 계기가 되기를 기대한다"고 말했다.