수학 천재이자 블레츨리 파크 암호해독팀의 일원이었던 IJ 굿은 1965년 논문 '최초의 초지능 기계에 관한 고찰'에서 다음과 같이 썼다.
"인류의 생존은 초지능 기계의 조기 구축에 달려 있다... 초지능 기계란 영리한 인간의 모든 지적 활동을 크게 능가할 수 있는 기계로 정의할 수 있다. 기계의 설계도 이러한 지적 활동 중 하나이므로 초지능 기계는 자신보다도 더 나은 기계를 설계할 수 있을 것이며, 그렇다면 의심할 여지 없이 '지능 폭발'이 일어나고 인간의 지능은 훨씬 뒤처지게 될 것이다. 최초의 초지능 기계는 인간이 만들어야 할 마지막 발명품이다."
1998년에 이르러 굿은 자신의 입장을 근본적으로 바꿨다. 그는 자신을 3인칭으로 기술한 자전적 글에서 이렇게 썼다.
"... 이제 '생존'을 '멸종'으로 대체해야 한다고 생각한다. 그는 국제적 경쟁으로 인해 기계가 인간의 자리를 대신하는 걸 막을 수 없다고 생각한다. 그는 우리가 레밍과 같다고 생각한다."
기계가 기계를 만든 인간을 대체할 수도 있다고 예상한 게 굿이 최초는 아니었다. 빅토리아 시대의 소설가이자 진화론자인 새뮤얼 버틀러(1835~1902)는 "기계가 세상의 진정한 패권을 쥐는 시대가 올 것"이라고 예언했다.
과학사학자 조지 다이슨은 버틀러와 굿에 대해 논의한 심오하고 선구적인 저서 '기계들 사이의 다윈'(1997)에서 기계가 인류를 능가하는 과정을 다음과 같이 요약했다.
"생명의 게임에는 인간, 자연, 기계라는 세 플레이어가 있다. 나는 확고한 자연의 편이다. 하지만 자연은 기계의 편이라고 생각한다."
굿이 독특했던 것은 초지능 기계가 인간의 시대를 종식시킬 수 있다고 생각한 점이다. 그는 에니그마 기계가 나치즘으로부터 문명을 구원하는 걸 직접 목격했기 때문에 초지능 기계가 사회의 문제를 해결할 수 있다고 믿었던 건 자연스러웠다.
"그들은 자신의 존재로 인해 발생한 문제를 보완하기 위해 그렇게 해야 할 것이다." 그는 이렇게 썼다. 예를 들어 기술변화로 인한 실업이 발생하면 이를 완화하기 위한 정책을 마련할 것이다.
독자들의 PICK!
굿이 생각을 바꾼 것은 기계가 우리에게 적대적일 것이라고 믿었기 때문이 아니다. 그보다는 기계가 더는 인간의 도구가 아니게 될 것이기 때문이다.
기계는 스스로를 복제하고 개선하는 법을 익히면서 자신의 프로그래밍을 수정하게 될 것이다. 인간친화적일 것을 강제하는 규칙이 약해지거나 이를 우회할 수 있게 되면 기계는 곧 인간의 통제를 벗어날 것이다. 실수로 인류를 파괴하더도 상관하지 않으리라는 것이다.
(계속)
PADO 웹사이트(https://www.pado.kr)에서 해당 기사의 전문을 읽을 수 있습니다. 국제시사·문예 매거진 PADO는 통찰과 깊이가 담긴 롱리드(long read) 스토리와 문예 작품으로 우리 사회의 창조적 기풍을 자극하고, 급변하는 세상의 조망을 돕는 작은 선물이 되고자 합니다.
