[Book]실용에 윤리 첨가해도 문제··· 딜레마에 빠진 '로봇 3원칙'
'인류가 해를 입도록 해선 안 된다' 등을 주요 내용으로 하는 아시모프의 '로봇 3원칙' 경계를 아슬아슬하게 넘나드는 인공지능(AI) 기기가 머지 않아 출연할 것이란 가정 아래 새 '로봇 윤리' 재정이 필요하다는 과학기술계 목소리가 높다. 일각에선 로봇 3원칙을 로봇 개발 알고리즘 작성에 적용하기가 마땅치 않다고 하소연한다.
로봇 3원칙은 실용적인 의미 앞에서 무기력한 모습을 보인다. 예컨대 미국은 군사 로봇 개발에 수십조 달러를 쏟아붓고 있다. 이는 인간에게 해를 가하거나 죽이지 못하도록 하는 3원칙에 정면으로 위배된다.
일단 로봇이 인간으로부터 살상 허락을 받으면 모든 원칙은 묵살된다. 누구를 향해 살상력이 허용될지에 관해 도덕적 결정을 내리는 능력을 완벽히 구현하지 않는 한 로봇 전투 기계가 인간에게 해를 끼칠 가능성을 줄일 방법은 현재로선 없다.
이 책의 저자인 미국 예일대 '생명윤리를 위한 학제간 센터' 소속 윤리학자인 웬델 월러치와 콜린 알렌 인디애나대 인지과학 교수는 로봇에 적절한 행동 규칙을 심는 게 전투 능력 강화보다 더 시급한 문제라고 주장한다.
최근 컴퓨터 프로그램인 '유진 구스트만'이 인공지능 판정시험인 '튜링 테스트'를 처음으로 통과했다. 이는 컴퓨터가 사람처럼 자유롭게 생각할 수 있는가를 확인하는 테스트로 제작된지 64년만에 첫 성공사례로 기록됐다.
인간의 관절과 생체를 대체할 로봇개발은 이미 상당한 수준에 도달했으며, 로봇 개발의 궁극적인 목표는 스스로 판단하고 행동하는 AI이다. 미국과 유럽 등 선진국에서 주요 R&D(연구개발) 과제로 로봇을 다루면서 이에 대한 과학계 논쟁 역시 뜨거운 감자로 떠오르고 있다.
책에선 자동화된 컴퓨터 시스템과 서비스 로봇 등 지능형 기계의 출현으로 인간과 기계의 구별이 더욱 어려워지면서 로봇을 '도덕적 존재'로 바라보는 새 시선을 상세하게 다룬다. 로봇 윤리에 관한 연구가 지금 왜 필요하며, 관련한 기술이슈가 무엇인지를 살펴본다. 즉, 이 책은 로봇 윤리라는 신흥 분야에 관한 포괄적인 입문서인 셈이다.
만약 컴퓨터가 도덕적 결정을 내리는 것이 필요하다면 공학자와 철학자는 이를 어떻게 설계해야 하는가라는 융합 과제도 함께 던진다. 이를 서술하고자 로봇공학, 철학, 인지과학, 도덕심리학, 신경윤리학, 인공두뇌학, 진화생물학, 게임이론 등 다양한 분야의 최신 연구성과를 동원한다.
독자들의 PICK!
저자들은 인공지능을 넘어 '인공적 도덕 행위자'(AMA)로 로봇을 바라본다. '사람처럼 생각한다'는 건 궁극적으로 자유의지에 따른 선택을 포함하며, 그 선택엔 윤리적 책임이 따른다고 역설한다. 나아가 로봇 도덕은 인간 윤리학에 새 탐구방향을 이끌어 낼 수 있다고 말한다.
저자들은 로봇의 도덕적 민감성과 행위에 대한 기준을 개발할 수 있을까라는 화두를 연속적으로 제시한다. 그러면서 다음과 같은 근본적인 질문을 던진다. 도덕적 의사결정을 기계화하려고 시도한다면 인간에게 어떤 결과가 생길 것인가? 기계를 지능적 행위자로 만들려는 시도는 납을 황금으로 바꾸려 했던 연금술사의 시도와 마찬가지로 잘못된 것인 아닐까? 그러면서 AMA로 인해 인류가 자신의 책임을 기계에 떠넘기지 않을까라는 걱정은 시급한 문제라고 지적한다.
◇왜 로봇의 도덕인가=웬델 월러치, 콜린 알렌 지음. 노태복 옮김. 메디치 미디어 펴냄. 448쪽. 2만1000원.
