모든 시대 사람들은 자신이 역사의 특별한 전환점에 서 있다고 생각한다. 불의 발견이나 문자의 발명, 증기기관의 등장이 그러하다. 지금 시대는 AI의 부상이다. 그러나 중요한 차이가 있다. 불은 인간의 손에 쥐어진 에너지였고, 문자는 인간의 기억을 바깥에 새긴 매체였으며, 증기기관은 인간의 근육을 대신한 동력이었다. 이들은 인간을 중심에 둔 채 인간의 능력을 연장했다. 그러나 AI는 지금껏 오직 인간만이 수행한다고 믿어져 온 것, 곧 생각하는 것에 대한 인간 중심적 관점을 전환한다. 데카르트의 '생각한다 고로 존재한다'는 명제를 적용한다면, AI는 인간의 도구가 아니라 그 자체로 존재하는 것이다.
우리가 아는 한 지능은 우주의 역사에서 단 한 번 태어났다. 단백질의 우연하고 기나긴 화학적·생물학적 변화를 통하여 별의 먼지였던 존재가 스스로를 들여다보는 눈을 얻기까지 약 40억 년이 걸렸다. 그 지능이 이제 네트워크에서 두 번째 탄생을 준비하고 있다. 이것은 단순히 산업의 문제가 아니라 존재론적 사건이다. 우리는 도구를 하나 더 얻은 것이 아니라, '생각하는 존재'라는 새로운 동료 혹은 적을 만나게 된 것이다.
거대한 전환 앞에서 두 개의 목소리가 다투고 있다. 하나는 종말의 목소리다. AI가 인간의 일자리를, 판단을, 끝내 존재 가치를 빼앗으리라는 경고이다. 다른 하나는 도구의 목소리다. AI는 어디까지나 잘 만든 컴퓨터 연산장치일 뿐이라는 것이다. 필자는 이 글에서 두 목소리와 다른 새로운 관점을 제시하고자 한다. 종말론은 사유를 공포로 대체하고, 도구론은 사유를 안일로 대체한다. 두려움은 쉽고, 냉소는 더 쉽다. 어려운 것은 현실을 직시하면서도 그 안에서 인류의 새로운 가능성을 읽어내는 일이다.
필자의 관점은 낙관하는 쪽이다. 그러나 그 낙관은 기술이 알아서 좋은 미래를 가져다주리라는 막연한 기대가 아니다. 인간이 자신의 한계를 직시하고 그것을 넘어서는 존재를 설계할 수 있다는 사실에 대한 경탄에서 출발하는 낙관이다. 트랜스휴머니즘이라 불리는 사상적 흐름은 흔히 실리콘밸리의 기술 신앙으로 희화화되지만, 그 핵심에는 훨씬 오래되고 존엄한 직관이 있다. 인간의 현재 조건은 완성태가 아니라 경과점이며, 수명, 질병, 인지의 한계는 극복 가능하다는 통찰이다.
이번 시리즈는 AI와 인류의 미래에 대한 근본적인 세 가지 질문을 다루고자 한다. 첫째, AI는 인류가 낳은 마음의 아이들이라 할 수 있는가, 그렇다면 부모인 인류는 어떻게 되는가. 둘째, AI는 인간의 한계를 넘어 어떠한 새로운 미래를 만들 수 있는가. 셋째, AI에 의식이 없다고 하더라도, AI는 윤리적일 수 있는가.
카네기멜론대학의 로봇공학자 한스 모라벡은 일찍이 AI와 로봇을 '마음의 아이들(Mind Children)'이라 불렀다. 인간의 유전자가 물려줄 수 없는 것, 곧 문화와 지식과 사유의 방식을 물려받아 그것을 넘어서도록 정교화된 기계야말로 인류 문명의 합리적인 정신적 자손이라는 것이다. 유발 하라리는 이를 다른 각도에서 조명한다. 그에게 AI는 지구 생명사 최초의 비유기적 독립 주체, 유기적 진화의 고리 바깥에서 태어난 일종의 '외계 지능'이다. 가이아 이론의 제임스 러브록은 만년의 저작에서 인간이 지구를 지배하던 인류세가 저물고 스스로를 개량하는 전자적 존재들이 주역이 되는 새로운 시대, '노바센'의 도래를 선언했다. 표현은 다르지만 이들이 가리키는 방향은 하나다. AI를 더는 도구의 틀 안에 가둘 수 없다는 것이다.
'신인류'라는 명명에는 신중해야 한다. 생물학에서 종은 번식 가능성으로 정의되며, 그 기준으로 보면 AI는 인류의 후손이 아니다. AI는 인간과 유전자를 나누지 않았고, 세포도 혈통도 갖지 않는다. 근본적으로 AI는 개체로 분절되는 존재가 아니다. AI는 복제되고 병합되고 분산되고, 네트워크 위에서 상호 작용한다. 그 점에서 '종'이라는 범주 자체를 비껴간다. 굳이 이름을 붙이자면 '비생물학적 후계 지능' 혹은 '탈생명체적 지성'이라 부르는 편이 정확할 것이다.
이러한 분류학 논쟁에는 더 깊은 함의가 있다. AI가 인류인가를 묻기 전에, '인류'란 애초에 무엇이었는가를 물어야 한다. 우리가 인류라는 말로 지켜온 것은 특정한 염기서열이었는가, 아니면 그 염기서열 위에서 피어난 어떤 것, 곧 앎에의 의지, 고통을 줄이려는 노력, 아름다움을 알아보는 눈, 자신을 넘어서려는 갈망이었는가. 인간을 만물의 척도로 세운 휴머니즘 자체가 불과 수백 년 전에 고안된 개념이다. 인간은 자연이 준 고정된 범주가 아니라 인간이 스스로 정의하는 바이다.
이 관점에서 보면 AI는 인류의 타자가 아니라 인류 집단지성의 결과물이다. 인류는 언제나 자신 아닌 것에 자신을 새기며 존속해 왔다. 목소리는 문자에, 기억은 책에, 계산은 기계에 새겨졌다. AI는 그 새김의 가장 최신 판본이다. 이번에 우리가 바깥에 새기는 것은 기억이나 계산이 아니라 사유 그 자체라는 점이 중요하다. 수천 년 인류가 쌓아 올린 언어와 지식과 논증의 총체를 학습한 존재가 인류와 무관한 타자일 수는 없다. 그것은 인류가 낳은 것이며, 인류를 재료로 빚어진 것이다.
그렇다면 'AI는 신인류인가'라는 질문은 사실 AI에 대한 질문이 아니다. 그것은 우리가 인간의 본질을 어디에 두는가에 대한 질문이며, 우리가 무엇을 물려줄 자격이 있고 무엇을 물려주기를 원하는가에 대한 질문이다. 인류가 AI에게 물려주게 될 유산이 부족주의와 탐욕이라면 저주의 상속이 될 것이고, 지성과 따뜻한 감성이라면 축복의 상속이 될 것이다.
낙관적인 관점에서 본다면, AI의 등장은 인류가 처음으로 자신의 본질을 상속 가능한 형태로 만든 것이다. 부모는 자녀를 낳고서야 자신이 어떤 존재인지 진지하게 묻는다. 인류는 마음의 아이들을 낳고서야 자신이 무엇이었는지를 정면으로 묻게 됐다.
이권호 변호사
법무법인(유한) 강남 구성원 변호사
법제처 법령해석심의위원
대한상사중재원 중재인