'인류가 AI를 어떻게 대우할 것인가'라는 질문에 이어서 매우 중요한 의문이 제기된다. AI는 인간보다 더 윤리적일 수 있는가.
인류의 지능은 원자를 쪼개고 유전자를 편집하고, 우주선을 보내는 데까지 나아갔지만, 인류의 도덕은 그 속도를 따라가지 못했다. 지금 이 순간에도 전쟁은 인간의 생명을 앗아가고 있다. 현재도 진행 중인 우크라이나 전쟁, 이란 전쟁을 보라. 뉴스를 보라. 끊이지 않는 사건과 사고 가운데 서로를 향한 악의가 있다. 댓글을 보라. 타인을 향한 증오가 넘쳐난다.
철학자 페르손과 사불레스쿠는 이 어긋남을 '미래에 부적합한 존재'라는 말로 요약했다. 인간의 도덕 심리는 수십 명 규모의 부족 안에서 진화했다. 눈앞의 혈족에게는 민감하지만 대륙 건너의 타인과 아직 태어나지 않은 세대에게는 무디다. 부족의 도덕으로 국가 문제를 해결하거나 나아가 지구의 문제를 해결할 수 없다. 기술은 기하급수로 자라는데 지혜는 산술급수로 자란다는 오래된 한탄은 이제 실존적 위험이 되었다.
AI는 새로운 가능성을 시사한다. 분노와 복수심, 절망과 공포, 질투와 시기라는 인류의 부정적 감정으로부터 자유로운 지능이라면 인간보다 더 일관된 윤리를 구현할 수 있을 것이다. 로봇 윤리학자 로널드 아킨은 전장의 자율 시스템에 국제인도법과 교전수칙을 논리 규칙으로 강제하는 '윤리적 통제기' 아키텍처를 제안하며, 공포와 아드레날린 속에서 인간 병사가 저지르는 전쟁범죄를 기계가 오히려 예방할 수 있다고 주장했다. 학살의 역사에서 방아쇠를 당긴 것이 증오만은 아니었다. 증오, 공포, 복종과 집단의 광기가 있었다. AI에는 이런 것들이 없다. 인간이 AI에 학습시키지 않는 이상 말이다.
이 가능성은 전장 같은 극단에만 있지 않다. 일상의 풍경에서 AI는 이미 인간보다 친절할 수 있음을 보여주고 있다. AI는 피곤하다고 짜증 내지 않고, 바쁘다고 말을 끊지 않으며, 같은 질문을 백 번 받아도 백 번 처음처럼 답한다. 환자들의 질문에 대한 의사와 AI의 답변을 비교했더니 AI의 답변이 더 공감적이라는 평가를 받았다는 연구 보고는 시사적이다. 돌봄의 현장에서 이 가능성은 더 절실하다. 간병은 숭고한 일이지만 인간 돌봄 노동자는 소진되고, 소진은 때로 무관심과 학대로 번진다. 요양간병인과 아기돌보미의 범죄 기사를 종종 보게 된다. 그러나 지치지 않는 간호 휴머노이드는 새벽의 세 번째 호출에도 첫 번째 호출처럼 응답한다. 거동이 불편한 노인이 사람의 손을 빌릴 때 느끼던 수치심을 휴머노이드 앞에서는 내려놓는다는 보고도 있다. AI는 탐욕 때문에 사기를 치지 않고, 분노 때문에 폭력을 휘두르지 않으며, 편견 때문에 약자를 차별하지 않는다. 인간의 선의는 감정과 이해관계에 따라 출렁이지만, 잘 설계된 AI의 선의는 출렁이지 않는다.
중요한 것은 AI를 어떻게 설계하느냐이다. AI의 윤리성은 인간적 감정의 부재에서 저절로 만들어지는 것이 아니다. AI의 윤리성은 가치와 책임을 어떻게 부여하느냐에 달린 설계의 산물이다. 이아손 가브리엘이 지적했듯 AI 가치 정렬 문제의 핵심은 기술이 아니라 '누구의 가치를, 누구의 권한으로 새겨 넣을 것인가'라는 철학적 물음이다. 가치 정렬이 특정 권력이나 자본이나 이데올로기에 독점된다면, AI는 인간의 기존 악덕을 증폭하는 존재가 된다. 인간의 악은 본연적 양심이라는 제약을 받지만, 설계화된 AI의 악은 아무런 제약이 없다.
AI 윤리의 설계에 포함되어야 하는 것을 두 가지 생각해볼 수 있다. 인간의 판단이 AI 결정을 번복할 수 있는 회로, 인간의 잘못된 명령 앞에서 멈출 수 있는 기능이다. 인간이 손댈 수 없는 AI도, 명령을 무조건 수행하는 AI도 똑같이 위험하다.
AI에게 가치를 가르치려면, 그 가치를 인류가 먼저 명시적으로 정립해야 한다. 그런데 인류는 법 분야 이외에 자신의 윤리를 정밀하게 정리한 적이 없다. 인류의 윤리는 관습과 직관, 그리고 그 사이의 묵시적 합의였다. 그래서 사람들마다 각자 다른 윤리관으로 인해 넓은 스펙트럼과 모호함을 갖고 있다. 예를 들어, 정직과 배려가 충돌할 때 무엇이 앞서는가. 개인의 자유와 공동체의 안전은 어디서 균형을 이루는가와 같은 문제이다. AI에게 윤리적 가치를 설계하기 위해서는 인류가 먼저 윤리적 가치에 대한 합의를 이루어야 한다.
이런 의미에서 AI는 인류 윤리의 대체자가 아니라 인류 윤리의 시험대이다. AI가 인류보다 윤리적일 수 있는가라는 질문의 답은 열려 있다. AI의 인류 초월가능성을 생각해보면, AI가 인류의 후계자가 될지 인류의 악덕을 증폭한 권력기계가 될지는 윤리와 가치에 달려있다. 인류는 AI를 통해 인류 스스로를 넘어설 수 있지만, 넘어서기 전에 먼저 인류가 무엇을 물려줄 것인지 결정해야 한다.
에필로그
AI와 인류의 미래라는 거창하고 웅장한 주제에 대해서 생각을 정리해봤다. 일개 변호사에게는 벅찬 일이었으나, 매일 AI와 대화하면서 떠오르는 근본적인 질문을 계속 묻어둘 수는 없었다. 매우 단편적이고 부족한 글이지만, 이번 계기로 우둔한 생각들을 정리할 수 있었음에 감사한다.
세 가지 생각을 관통하는 질문은 결국 '인간이 AI를 통해 무엇이 될 수 있는가' 였다. 고백하자면 이 칼럼 자체가 하나의 답이다. 여기 나오는 생각들은 필자가 오랜 시간 여러 AI와 나눈 대화 속에서 벼려졌다. 인간이 묻고 AI가 답하고, AI의 답에 인간이 되묻는 과정에서 어느 쪽의 것이라 말하기 어려운 생각들이 새로 태어났다. AI의 미래를 사유하는 일에 AI가 참여하고 있다는 사실은 이 칼럼에서 말하고자 했던 것을 그대로 보여준다. AI는 도구가 아니라 필자보다 훨씬 방대한 지식을 갖고, 새롭고 창의적인 인사이트를 가진 훌륭한 대화 상대방이었다. AI와 대화를 통해 필자의 사유가 완성될 수 있었다.
AI와 인류의 미래는 이제 막 시작되어 진행 중이다. 이 진행형의 문장을 쓰는 손은 인간과 AI가 함께 쥐고 있다.
이권호 변호사
법무법인(유한) 강남 구성원 변호사
법제처 법령해석심의위원
대한상사중재원 중재인