대법원이 생성형 인공지능(AI)이 만들어낸 허위 법령·판례나 위·변조 증거가 재판에 제출되는 일을 막기 위한 대응 방안을 내놨다. 허위 자료로 소송을 지연시키거나 불필요한 비용을 초래한 경우 소송비용을 부담하게 하고 이를 검증 없이 낸 변호사에 대해서는 대한변호사협회 징계 의뢰까지 가능하도록 했다.
법원행정처는 31일 'AI 활용 허위 주장·증거 제출 대응 태스크포스(TF)'를 구성해 활동한 결과를 발표했다. 판사 8명과 변호사 2명 등 10명으로 구성된 TF는 지난해 11월부터 이번달까지 운영됐다. 실제로 존재하지 않는 판결을 그럴듯하게 만들어내는 AI의 '환각'(hallucination) 현상 때문에 최근 각급 법원에서 허위 판례 인용 사례가 잇따라 보고됐다.
TF는 앞으로 소송 당사자나 변호사가 가짜 판례를 인용해 소송이 지연되거나 불필요한 비용이 발생하면 재판부가 이를 당사자에게 부담시킬 수 있도록 했다. 또 허위 내용이 담긴 서면은 법정 진술을 제한하고 판결문에 해당 내용이 허위임을 명시할 수 있도록 했다. 특히 변호사가 AI 생성 자료를 제대로 검증하지 않고 제출할 경우 재판부가 대한변호사협회에 징계를 의뢰할 수도 있다.
TF는 제도 보완도 함께 추진돼야 한다고 밝혔다. TF는 소송 당사자가 AI를 활용했을 경우 그 사실을 법원과 상대방에게 고지하고 인용된 내용의 정확성을 스스로 확인하도록 의무화하는 내용의 민사소송규칙 개정을 제안했다. 또 민사소송법을 개정해 허위 법령을 인용하면 과태료를 부과할 수 있게 하는 방안도 제시했다.
전산 시스템 개선 방향도 포함됐다. 법원에 제출된 서류 속 법령·판례가 실제 존재하는지, 또 서류에 적힌 내용이 원문과 얼마나 비슷한지 자동으로 알려주는 기능을 개발하자는 취지다. AI가 제시한 판결이 실제 존재하는지 국민들이 직접 확인할 수 있도록 판결 공개를 확대하는 방안도 검토 대상에 올랐다. 법원은 지난달 사법정보공개포털에 AI가 제시한 사건번호가 실제로 존재하는지 누구나 확인할 수 있는 '허위 사건번호 확인' 기능을 추가했다.