판사 10명 중 8명 "가짜 판례 접했다"
민사·가사·행정 담당 법관 10명 중 8명이 재판 과정에서 인공지능(AI)으로 생성된 허위 판례 등이 인용된 사례를 접했다는 설문 조사가 나왔다. 법원행정처는 허위 인용에 대한 과태료 부과 근거를 마련하는 등 제도적 대응에 나설 방침이다.
대법원이 지난 2일 공개한 'AI 허위 판례 등 인용 관련 설문조사 결과'에 따르면 민사·가사·행정 담당 응답 법관의 약 80%가 허위이거나 존재하지 않는 판례 등이 인용된 사례를 경험했다고 답했다. 이번 조사는 지난달 6일부터 16일까지 각급 법원 법관을 대상으로 진행됐으며 총 360명이 응답했다.
실제 사례에는 대법원 판결문 형식을 그대로 본떠 AI로 생성한 가짜 판결문을 제출한 경우가 포함됐다. 낯선 법리와 함께 대법원 사건번호를 제시했지만 해당 판례가 검색되지 않거나, 실제 판결 내용을 바꾸고 취지와 다르게 인용한 사례도 있었다. AI와 나눈 대화나 소송 전략에 관한 문구가 제출 서류에 그대로 들어간 경우도 확인됐다.
사례 유형을 묻는 복수 응답 문항에서는 '존재하지 않는 판례 인용'을 선택한 법관이 196명(80.7%)으로 가장 많았다. '허위 판례 인용'은 159명(65.4%), '허위·부존재 법령 인용'은 41명(16.9%), '허위·부존재 논문·문헌 등 자료 인용'은 10명(4.1%)이었다.
허위 판례 등을 인용한 주체로 소송 당사자 본인을 꼽은 응답은 164명(69.5%)이었다. 변호사인 소송대리인 또는 변호인을 선택한 응답도 136명(57.6%)에 달했다. 대법원은 "당사자 본인뿐 아니라 변호사가 제출한 서면에서도 허위·부존재 판례 등의 인용 사례가 다수 확인됐다"고 설명했다.
이번 조사는 사법절차에서 AI 활용이 늘면서 사실이 아닌 내용을 그럴듯하게 만들어내는 '환각 현상'에 따른 허위 인용 문제가 발생한 데 따라 이뤄졌다. 허위 인용은 소송 상대방과 재판부의 부담으로 이어진다.
상대방은 인용된 판례가 실제로 있는지, 내용은 정확한지 확인하고 반박하는 데 시간과 비용을 더 써야 한다. 재판부 역시 자료를 검증해야 해 심리가 늦어질 수 있다. 대법원은 "특히 변호사 없이 직접 소송을 수행하는 당사자는 이러한 오류를 찾아내고 대응하는 데 어려움을 겪을 수 있다"고 설명했다.
제도적 대응이 필요하다는 응답은 91.7%였다. 이 가운데 '매우 필요하다'는 응답은 64.8%를 차지했다. 구체적인 대응 방안을 묻는 복수 응답 문항에서는 과태료 부과 근거 마련이 215명(61.4%)으로 가장 많았다. 인용 자료의 검증의무 부과 214명(61.1%), AI 활용 사실 기재의무 부과 212명(60.6%), 변호사 징계의뢰 등 제재방안 마련 194명(55.4%)이 뒤를 이었다.
독자들의 PICK
지금 6,942명 읽는 중
법원행정처는 조사 결과를 토대로 제도와 실무 양면에서 대응 방안을 마련할 예정이다. 민사소송법·형사소송법 개정을 통해 과태료 부과 등의 근거를 마련하기 위해 법무부 등 관계기관과 협의하고 국회에 의견을 제출할 계획이다. 전자소송 사이트에 'AI 활용 시 유의사항'을 안내하는 방안도 검토할 방침이다. 대법원은 "제출서면의 정확성을 확보하여 국민의 불필요한 소송 부담을 줄이고 재판의 신속성과 공정성을 제고할 필요가 있다"고 밝혔다.
