최근 여론조사가 충격적이다. 많은 시민들이 인간 판사보다 AI 판사가 더 공정할 것이라고 답했다. 우리나라 사법부에 대한 일반 시민들의 신뢰가 얼마나 낮은지를 극명하게 보여주는 결과이다. 여러 시국 사건이나 여론의 관심을 받는 형사사건들에서 사법 신뢰가 흔들리면서 차라리 편견 없는 AI가 판사를 대체해야 한다는 목소리가 커지고 있다. 이는 주요 시국 사건, 언론에 오르내리는 형사사건 보도에 대한 시민들의 댓글을 보면 알 수 있다. 시민들의 한결 같은 반응은 '판사를 AI로 바꿔야 한다'는 것이다.
그러나 현재의 분노를 식힌 다음 차분히 생각해보자. 정말 AI가 더 공정한 판사가 될 수 있을까? AI 판사 공정성 신화의 환상들을 하나씩 짚어보겠다.
첫 번째 문제는 데이터에서 시작된다. AI는 과거 판결을 학습한다. 만약 그 판결들이 특정 지역, 계층, 성별에 대한 편견을 담고 있다면 어떻게 할 것인가. 전회 칼럼에서 검토한 '유전무죄 무전유죄'와 같은 부자와 빈자 사이의 현저한 불평등성은 AI로 인해 확대 재생산될 수 있다.
미국의 재범 예측 알고리즘 COMPAS가 대표 사례다. 흑인 피고인에게 체계적으로 불리한 판정을 내렸다. 알고리즘은 중립적이지만, 그것을 훈련시킨 데이터가 이미 편향되어 있었던 것이다. "잘못된 데이터를 학습하면 잘못된 결론을 내린다"는 것이 AI의 숙명이다.
더 큰 문제는 AI의 편향이 객관성이라는 가면을 쓴다는 점이다. 인간 판사의 편견은 비판받고 교정될 수 있다. 하지만 AI의 판단은 '과학적'이고 '객관적'이라는 평가로 인해 훨씬 더 위험할 수 있다.
두 번째 문제는 투명성이다. 복잡한 딥러닝 모델은 왜 그런 결론에 도달했는지 설명하지 못한다. 수백만 개의 매개변수가 얽혀 있고, 개발자조차도 도저히 알 수 없는 블랙박스다. "왜 유죄입니까?" "왜 3년형입니까?"라는 질문에 AI는 답할 수 없다. "데이터가 그렇게 나타냈습니다"가 전부다. 이것이 공정한 재판인지를 진지하게 생각해봐야 한다. 합리적인 판결 이유를 알 권리, 그것에 반박할 기회는 사법 정의의 핵심적 가치이다. AI는 이를 원천적으로 불가능하게 만든다.
세 번째는 맥락 이해의 한계다. 법정은 단순히 법조문을 적용하는 곳이 아니다. 피고인의 표정, 증인의 떨림, 방청석의 한숨 소리까지 모든 것이 재판의 일부다. 판사들은 말한다. "피고인이 진심으로 반성하는지는 눈을 보면 안다. 그 순간의 침묵, 목소리의 떨림, 고개 숙인 각도까지 모든 것이 신호다." AI가 이것을 읽을 수 있는지를 생각해봐야 한다.
독자들의 PICK!
더 중요한 것은 예외를 다루는 능력이다. 법은 일반 원칙이지만, 재판은 구체적 타당성을 찾는 절차이다. 때로는 엄격한 법 적용이 오히려 부정의를 낳는다. 인간 판사는 이를 감지하고 조정한다. 그러나 AI는 예외를 예외로 인식하지 못한다.
네 번째는 책임 소재다. AI가 잘못된 판결을 내렸을 때 누가 책임질 수 있는지를 심각하게 고민해야 한다. AI 알고리즘 개발자인가, 데이터 제공자인가, 아니면 AI를 도입한 법원인가. 여기서 AI를 사용하든 안 하든, 최종 책임은 인간에게 있다는 점을 되돌아봐야 한다.
그러나 이러한 네 가지 문제점으로 인해 사법 과정에서 AI를 배척할 수는 없다. AI는 강력한 사법적 도구가 될 수 있기 때문이다. 방대한 판례를 순식간에 검색하고, 사건을 체계적으로 정리하며, 논리적 모순을 찾아낸다. 판사가 더 중요한 일에 집중할 수 있게 돕는다. 핵심은 역할 분담일 것이다. AI는 정보를 처리하고, 인간은 의미를 판단한다. AI는 패턴을 찾고, 인간은 예외를 본다. AI는 효율을 높이고, 인간은 정의를 구현한다.
우리나라 시민들이 AI 판사를 원하는 것은 현실 사법부에 대한 불신의 표현이다. 그러나 여론을 반영하여 AI기술을 통해 성급히 판사의 고유한 영역을 대체하려는 시도는 오히려 더 큰 문제를 만들어낸다. 필요한 것은 더 나은 기계가 아니라 더 나은 제도다. 판결의 일관성을 높이고, 절차의 투명성을 강화하며, 판사의 신뢰성을 향상시켜야 한다. AI는 이 과정을 도울 수 있으나, 인간 판사를 대체할 수는 없다. 전 세계 어느 나라도 AI에게 최종 판결권을 주지 않는다. 미국도, EU도, 중국도 마찬가지다. "인간만이 인간을 심판할 수 있다"는 원칙은 양보할 수 없는 선이다.
우리나라 시민들이 간절히 원하는 공정성은 기계적 AI 알고리즘이 아니라 사법적 지혜에서 도출되어야 한다. 정의는 계산이 아니라 성찰에서 나오기 때문이다. 이것이 AI 시대에도 변하지 않는 진리이다. 우리에게 필요한 것은 완벽한 AI 판사가 아니라, AI의 도움을 받아 더 지혜로워진 인간 판사일 것이다./ 글 이권호 변호사
이권호 변호사
법무법인(유한) 강남 구성원 변호사
법제처 법령해석심의위원
대한상사중재원 중재인