[AI 속도조절론] '핵군축' 사례 있지만 그렇게 될 가능성 낮아
"솔직히 말씀드리면 실질적인 위험들이 존재합니다"
다리오 아모데이 앤트로픽 최고경영자(CEO)가 연일 인공지능(AI)에 대해 경고를 내놨다. 개인 블로그에 '프론티어(최첨단) 속도를 조절해야 한다'는 글을 게시한데 이어 언론에도 AI 발전 속도조절의 필요성을 재차 강조하고 나선 것이다.
아모데이 CEO는 13일(현지시간) 미 방송사 CBS와 인터뷰에서 "너무 오랫동안 업계가 이 기술에 위험이 있다는 사실에 대해 사람들에게 거짓말을 했다고 생각한다"며 이같이 밝혔다.
아모데이 CEO는 "당장 오늘 공포에 떨어야 한다거나 모든 개발을 중단해야 한다는 뜻은 아니다"라면서도 "속도를 늦춰야 한다는 경고 신호"라고 덧붙였다. 그러면서 앤트로픽이 더 발전된 모델의 출시를 중단할 것인지에 대한 질문에는 "그런 의미는 아니다"라며 "우리가 출시하는 모든 세대의 모델이 제대로 된 검증을 거치도록 해야 한다는 뜻"이라고 설명했다.
이를 실행하기 위해 앤트로픽이 독립 평가자들에게 '직원에 준하는' 수준의 모델 상시 접근 권한을 부여할 것이라고 밝혔다. 그는 "누군가 AI 모델을 개발할 때마다 해당 기업이 스스로 약속한 안전 수칙을 준수하고 있는지 검증할 제3자 평가자가 존재하는 것"이라고 밝혔다.
그는 중국이 AI 개발 속도를 늦추지 않는 상황을 속도조절론의 가장 큰 변수로 꼽았다. 그는 "그것이 가장 다루기 힘든 딜레마이자 우리가 마주한 상황에서 가장 어려운 부분"이라고 말했다. 과거 미국·소련의 핵무기 감축 협정을 잠재적 모델로 보고 있지만 그렇게 될 기대치는 낮다고 설명했다.
아모데이 CEO는 "더 장기적인 방안은 AI 발전 속도에 일종의 제한을 두기 위해 협력하는 것"이라며 "군사적 우위를 선점함으로써 얻는 이득이 너무나 크기 때문에 매우 어려울 것이라 생각하지만 시도해 봐야 한다"고 말했다.
정부에 기술을 넘길 수 있냐는 질문에는 "올바른 정부들의 연합체라면 가능하다"고 답했다. 그는 "단일 정부 역시 단일 기업만큼이나 이 기술을 쉽게 남용할 수 있다"면서도 "민주적으로 선출된 정부들의 연합체라면 전권을 넘겨주는 것까지는 몰라도 모종의 감독이나 공동 거버넌스는 가능하다고 본다"고 했다.
앞서 아모데이 CEO는 12일(현지시간) 개인 블로그에 '프론티어(최첨단) 속도를 조절해야 한다'는 글을 게시하고 제 3자가 AI를 검증하는 3단계 계획을 제시했다. 앤트로픽은 완성된 AI를 비롯해 AI 학습 과정 전반의 적합성을 평가하는 제 3자 평가팀을 도입할 방침이다. 또 민주주의 국가의 프론티어 AI 기업들이 공유하는 안전 기준을 마련하고 나아가 권위주의 정부와도 생물학 무기 등 공통된 위협에 대해 합의하는 전세계적인 협력 체제를 구축하자는 게 그의 구상이다.
