교황, 첫 회칙 발표
무인무기·전쟁일상화 등 경고
가장 엄격한 윤리적 제약 필요
"AI(인공지능)를 무장해제시켜야 한다."
과격한 주장 같지만 다름 아닌 레오 14세 교황(사진)의 발언이다. 교황은 25일(현지시간) AI가 세계를 끝없는 전쟁의 길로 이끌 위험이 있다며 AI가 인간을 지배할 수 없도록 무장해제가 필요하다고 밝혔다.
그는 교황청 시노드 강당에서 '마니피카 후마니타스'(Magnifica Humanitas·위대한 인간성)라는 제목의 회칙(교서)을 통해 이같이 밝혔다. 지난해 5월 취임한 교황이 처음 내놓은 회칙에서 AI가 지니는 위험성을 엄중 경고한 것이다.
교황은 정부의 통제를 받지 않는 소수의 강력한 민간 세력이 AI를 휘두르고 무인무기를 통해 전쟁을 일상화할 수 있는 능력을 갖추게 되는 것을 경고했다.
교황은 "도덕성이 소수에 의해 결정된다면 더 도덕적인 AI만으로는 충분하지 않다"며 "자율무기 시스템이 점점 더 쉽게 배치되고 있다. 이로 인해 전쟁은 더욱 쉬운 선택지가 되고 인간의 통제를 벗어나게 된다"고 말했다.
그러면서 "인간 존엄과 생명의 신성함에 대한 존중을 보장하기 위해 전쟁에서 AI를 사용할 때는 가장 엄격한 윤리적 제약이 필요하다"고 강조했다.
교황은 "우리는 이미 AI라는 환경 속에 깊숙이 들어와 있고 이제 AI는 피할 수 없는 강력한 세력이 됐다"며 "단순히 법으로 묶어두는 규제만으론 부족하다. AI를 무장해제시켜 누구나 안전하고 쉽게 다가갈 수 있도록 만들어야 한다"고 말했다.
이어 "무장해제는 기술을 거부하는 것이 아니라 AI가 인간성을 지배하지 못하도록 막는 것을 의미한다"고 덧붙였다.
아울러 교황은 "디지털 세계가 데이터 라벨링, 모델 훈련, 콘텐츠 검열작업에 종사하는 수백만 명의 침묵하는 노동에 의존하고 있다"며 "이들은 종종 열악한 환경과 낮은 임금을 받으며 일한다"고 지적했다.
AI 경제를 '새로운 형태의 노예제'에 비유한 교황은 가장 취약한 이들의 부담을 줄이고 더 많은 자원을 가진 이들에게 더 큰 책임을 요구하는 세금제도 등 불평등 확대를 막기 위한 노력이 없다면 "기술진보는 필연적으로 구조적 불평등을 초래할 것"이라고 경고했다.
교황은 "더 많은 이윤을 추구하는 행위가 구조적으로 일자리를 희생시키는 선택을 정당화할 수는 없다"며 "인간은 목적 그 자체이지 결코 수단이 아니다"라고 강조했다.
독자들의 PICK!
또한 AI가 만들어내는 허위정보를 지적하며 "사회가 진실을 추구하지 않을 때 민주적 삶은 약화한다"며 "진실에 무관심해지면 느리지만 확실히 전체주의로 떨어지게 된다"고 덧붙였다.
이날 회칙 발표엔 크리스토퍼 올라 앤트로픽 공동창업자가 참석해 눈길을 끌었다. 앤트로픽은 자사 기술을 대규모 국민감시나 대량살상무기 개발에 사용해선 안된다며 미국 정부와 대립했다.
