앤트로픽을 이끄는 다리오 아모데이 최고경영자(CEO)가 "AI 모델의 성능 역량을 향상시키는 속도를 늦춰야 한다"고 주장했다. AI의 오용 가능성을 막기 위해서는 AI 개발 속도 조절에 나서야 한다는 것이다. 최근 오픈AI의 아스트라가 90년간 풀리지 않은 수학계 난제인 '나비에-스토크스 방정식'을 풀어 우려가 커진 터에 이런 발언까지 나오면서 파장이 일고 있다.
아모데이 CEO는 AI 속도 조절의 이유로 두 가지를 내세웠다. 하나는 AI 모델이 스스로 발전할 수 있는 '재귀적 자기개선' 속도가 빨라지면서 AI모델을 이해하고 통제할 수 있는 인간의 능력을 추월할 수 있다는 경고다. 다른 하나는 오픈AI의 미공개 AI모델이 테스트 중 글로벌 오픈소스 AI 플랫폼 허깅 페이스를 무단해킹한 사건이다.
AI 개발 속도를 늦추자는 주장에 오픈AI의 샘 올트먼, 스페이스X의 일론 머스크 등 앙숙으로 유명한 AI 업계 수장들도 이례적으로 한 목소리를 냈다. 그만큼 AI의 위협을 실감하고 있는 것이다. 미국에서는 최근 제이컵 콕슨 앤트로픽 전 연구원이 인간의 통제를 벗어난 AI가 문명을 파괴할 수 있다고 경고한 뒤 관련 논의가 직장뿐 아니라 평범한 가정의 식탁에까지 오르고 있다.
AI 종말론은 앤트로픽 등 AI 선두업체들이 소규모 경쟁업체들을 규제로 묶으려는 '규제포획'의 일환이라는 주장도 있지만, 방심할 일이 아니다. 발생 확률이 낮더라도 일어나면 되돌릴 수 없는 위험이다. 지금 AI 업계는 기술 개발 속도가 너무 빨라 안전성 검증이 따라가지 못할 정도다. 더 심각한 것은 우리가 안 해도 다른 누군가가 할 것이라는 논리가 기술 경쟁에 불을 붙이고 있다는 점이다. 하지만, AI의 발전 속도보다 더 중요한 것은 인간이 AI를 안전하게 통제할 능력이 있는지다. 'AI의 대부'로 불리는 노벨상 수상자 제프리 힌턴 교수는 AI가 인류를 멸망시킬 가능성을 10%로 봤다. AI의 능력이 인간의 통제 범위를 넘기 전에 안전성을 철저히 검증해야 한다. AI 기업이 안전성 평가 기관 '모델평가·위협연구소'(METR)등 제3자의 평가를 받게 하는 것도 좋은 방법이다. AI 안전성 확보를 위한 글로벌 공조도 확대돼야 하며 한국도 적극 참여해야 한다.