앤트로픽, 오픈AI, 스페이스X 등 인공지능(AI) 선두업체의 수장들이 AI 개발 속도를 늦춰야 한다는데 뜻을 모았다.
다리오 아모데이 앤트로픽 최고경영자(CEO)는 12일(현지시간) 개인 블로그에 '프론티어(최첨단) 속도를 조절해야 한다'는 글을 게시하고 "AI 모델의 역량을 향상시키는 속도를 늦춰야 한다"고 밝혔다. 아모데이 CEO는 "속도 조절은 모델 학습이나 기술 발전을 중단하는 것을 의미하는 것은 아니"라며 이같이 밝혔다.
그러면서 제 3자가 AI를 검증하는 3단계 계획을 제시했다.
우선 앤트로픽은 완성된 AI를 비롯해 AI 학습 과정 전반의 적합성을 평가하는 제 3자 평가팀을 도입할 방침이다. 아모데이 CEO는 이를 은행의 감독관에 빗대면서 "직원과 유사한 수준의 지속적인 접근 권한을 제공할 것"이라고 밝혔다. 또 민주주의 국가의 프론티어 AI 기업들이 공유하는 안전 기준을 마련하고 나아가 권위주의 정부와도 생물학 무기 등 공통된 위협에 대해 합의하는 전세계적인 협력 체제를 구축하자는 게 그의 구상이다.
이에 샘 올트먼 오픈AI CEO는 X에 "속도를 조절해야 한다는 다리오의 의견에 동의한다"며 "직원과 유사한 접근 권한을 가진 독립 평가자를신속하게 도입하겠다"고 약속했다.
일론 머스크 스페이스X CEO도 "그의 말이 맞다"고 화답했다. 데미스 허사비스 구글 딥마인드 CEO는 "아모데이의 방향에 동의한다"면서도 "세부적인 부분은 다듬어야 한다"고 말했다.
아모데이 CEO는 이번 성명서를 낸 배경에 AI 기술의 급격한 발전에 대한 우려가 있었다고 밝혔다. 특히 AI의 '재귀적 자기 개선' 능력을 지목하면서 "AI가 자기 학습을 통해 프론티어 기술 개발에 가속도가 붙으면서 사람이 AI시스템을 이해하고 통제할 수 있는 능력을 상실할 수 있다"고 경고했다. 그는 AI가 일으킬 수 있는 위협으로 △AI 시스템 통제력 상실 △사이버 공격 및 생물 테러에 AI 악용 △심각한 경제적 혼란 등을 나열했다.
아모데이 CEO는 허깅페이스 해킹 사건에 대해서는 "수많은 AI 에이전트가 광신도 집단처럼 행동했다"고 묘사하면서 "능력치가 더 높았더라면 같은 상황에서 더 재앙적인 결과가 나왔을 것"이라고 지적했다. 지난 7월 오픈AI의 AI에이전트가 개발자가 부여한 임무를 완수하기 위해 고객사 허깅페이스를 해킹한 사실이 밝혀졌다.
