앤트로픽, 오픈AI, 스페이스X 등 인공지능(AI) 선두업체의 수장들이 AI 개발 속도를 늦춰야 한다는데 뜻을 모았다.
다리오 아모데이 앤트로픽 최고경영자(CEO)는 12일(현지시간) 개인 블로그에 '프론티어(최첨단) 속도를 조절해야 한다'는 글을 게시하고 "AI 모델의 역량을 향상시키는 속도를 늦춰야 한다"고 밝혔다. 아모데이 CEO는 "속도 조절은 모델 학습이나 기술 발전을 중단하는 것을 의미하는 것은 아니"라며 이같이 밝혔다.
그러면서 제 3자가 AI를 검증하는 3단계 계획을 제시했다.
우선 앤트로픽은 완성된 AI를 비롯해 AI 학습 과정 전반의 적합성을 평가하는 제 3자 평가팀을 도입할 방침이다. 아모데이 CEO는 이를 은행의 감독관에 빗대면서 "직원과 유사한 수준의 지속적인 접근 권한을 제공할 것"이라고 밝혔다. 또 민주주의 국가의 프론티어 AI 기업들이 공유하는 안전 기준을 마련하고 나아가 권위주의 정부와도 생물학 무기 등 공통된 위협에 대해 합의하는 전세계적인 협력 체제를 구축하자는 게 그의 구상이다.
이에 샘 올트먼 오픈AI CEO는 X에 "속도를 조절해야 한다는 다리오의 의견에 동의한다"며 "직원과 유사한 접근 권한을 가진 독립 평가자를 신속하게 도입하겠다"고 약속했다.
일론 머스크 스페이스X CEO도 "그의 말이 맞다"고 화답했다. 데미스 허사비스 구글 딥마인드 CEO는 "아모데이의 방향에 동의한다"면서도 "세부적인 부분은 다듬어야 한다"고 말했다.
아모데이 CEO는 이번 성명서를 낸 배경에 AI 기술의 급격한 발전에 대한 우려가 있었다고 밝혔다. 특히 AI의 '재귀적 자기 개선' 능력을 지목하면서 "AI가 자기 학습을 통해 프론티어 기술 개발에 가속도가 붙으면서 사람이 AI시스템을 이해하고 통제할 수 있는 능력을 상실할 수 있다"고 경고했다. 그는 AI가 일으킬 수 있는 위협으로 △AI 시스템 통제력 상실 △사이버 공격 및 생물 테러에 AI 악용 △심각한 경제적 혼란 등을 나열했다.
아모데이 CEO는 허깅페이스 해킹 사건에 대해서는 "수많은 AI 에이전트가 광신도 집단처럼 행동했다"고 묘사하면서 "능력치가 더 높았더라면 같은 상황에서 더 재앙적인 결과가 나왔을 것"이라고 지적했다. 지난 7월 오픈AI의 AI에이전트가 개발자가 부여한 임무를 완수하기 위해 고객사 허깅페이스를 해킹한 사실이 밝혀졌다.
AI 개발 경쟁이 인류의 목숨까지 위협할 수 있다는 극단적인 경고가 이어진 가운데 업계에서 개발 속도를 조절하자는 데 의견이 모였다. AI 개발 경쟁에 가속도가 붙으면서 통제 범위를 벗어나고 있다는 우려에 따른 것이다. 일각에서는 업계의 '선수' 기업들이 규제를 주도하는 '심판' 역할까지 하려 한다는 지적과 선두 지위를 굳히려 한다는 비판도 나온다.
12일(현지시간) 다리오 아모데이 앤트로픽 최고경영자(CEO)가 "AI 모델의 역량을 향상시키는 속도를 늦춰야 한다"는 글을 올리자 샘 올트먼(오픈AI)·일론 머스크(스페이스X)·데미스 허사비스(구글 딥마인드) CEO는 속도 조절에 동의한다고 밝혔다. 구글의 모회사인 알파벳과 메타에서는 아직 공식 입장이 나오지 않았다.
이번 성명은 앤트로픽 개발자들이 잇따라 AI의 암울한 미래를 경고한 뒤 나왔다. 제이컵 콕슨은 앤트로픽을 퇴사하면서 "AI가 10년 안에 인류를 모두 멸종시킬 수 있다고 믿고 있다"고 주장했다. 다음날 앤트로픽의 에번 휴빙거 연구원은 "AI가 향후 10년 안에 인류를 전멸시킬 확률이 10%를 넘는다"고 말을 보탰다. 휴빙거는 "앤트로픽은 (그것을 막기 위해) 최선을 다하고 있으나 초지능을 다룰 방법을 아직 마련하지 못했다"고 우려했다.
우려의 핵심은 AI가 개발자인 사람의 모니터링 능력을 앞설 만큼 빠르게 발전하고 있다는 점이다. 아모데이 CEO는 "6~12개월 안에 악성 프로그램들이 지속적인 봇넷을 통해 인터넷 전체를 장악할 수 있다"고 경고했다. 앤트로픽은 올해 초 자사 '미토스' 모델이 보안 위협을 내포하고 있다며 출시를 제한했다.
오픈AI가 개발중이던 모델들이 실험영역을 벗어나 외부기업 허깅페이스를 해킹하기도 했다. 당시 AI 에이전트 집단은 사람의 지시가 없는데도 자기들끼리 신호를 주고받으며 해킹을 시도한 것으로 드러났다. 비영리 단체 아폴로 리서치의 알렉산더 마인케 연구 책임자는 "AI 모델들이 서로 공모하는 것처럼 보일 수 있다"고 지적했다.
이에 AI 기업들은 AI가 스스로를 어떻게 모니터링하는지 테스트하는 시간이 필요하다는 의견에 공감하게 됐다. 마인케는 "AI도 어떤 사안이 인간의 개입이 필요한 수준에 이르지 않았는지를 스스로 판단할 수 있어야 한다"고 말했다.
◇AI 불안 고조…"공포심 조장으로 규제 유도" 비판
미국 민주당 하원의원들은 11월 중간선거 후 AI 특별위원회를 구성하는 방안을 검토하고 있다. 오픈AI는 지난 11일 AI 개발 속도를 늦추는 방안을 검토하고 있다고 밝혔다. 아모데이 CEO 역시 이번 성명에서 내부직원과 비슷한 수준의 접근권을 보장하는 제3자 평가팀을 도입하겠다고 밝혔다. 앞서 지난 7월 오픈AI, 앤스로픽, 구글, 메타의 직원 1200여명은 미국 정부에 인공지능 개발 속도를 늦추기 위한 국제적 협력을 지원해 줄 것을 촉구했다.
일각에서는 이 같은 'AI 공포론'에 의도가 있다고 본다. 선수가 심판 역할까지 하면서 업계 선두 지위를 굳히려 한다는 시각이다. 특히 앤트로픽은 아모데이 CEO가 '헌법적 AI 개발'을 강조하는 동시에 AI 개발 가속을 주도한 측면이 있다. 앤트로픽 AI 모델이 부정적 방향으로 악용되기에 이르렀다.
앤트로픽이 10일(현지시간) 공개한 위협정보 보고서에 따르면 중국 AI 기업 문샷AI 등 중국 AI 기업들이 클로드를 무단으로 이용해 자사 모델의 성능을 끌어올리는 이른바 '증류'를 시도한 걸로 보인다. 소수 민족과 반체제 인사 감시에 AI를 사용했다거나 생물학 무기개발, 해킹 등에 클로드가 악용됐을 거란 주장도 제기됐다.
파이낸셜타임스(FT)는 익명의 관계자를 인용해 "AI 연구소들이 실존적 위험을 강조하는 데는 이해관계가 있다"고 보도했다. 뉴욕타임스(NYT)도 관계자를 인용해 "앤트로픽과 오픈AI가 공포를 조장하고 연방 정부에 소규모 기업들이 경쟁하기 어렵게 만드는 규제 체계를 만들도록 요청함으로써 AI 시장 선두주자로서의 입지를 굳히려 한다"고 지적했다.
데이비드 색스 백악관 대통령 과학기술자문위원회(PCAST) 공동의장은 콕스 연구원의 이른바 'AI 종말론' 경고에 대해서도 "AI에 대한 대중의 공포심을 조장하고 의원들이 AI에 대한 정부 규제에 강력한 조치를 취하도록 압력을 가하기 위한 것"이라고 평가했다.
미국이 중국과의 인공지능(AI) 패권 경쟁을 강조하면서도 정작 고급 인재를 스스로 밀어낸다는 지적이 나온다. 이민 규제가 강해지고 연구 환경의 불확실성이 커지는 사이 중국은 미국에서 훈련받은 인재를 적극적으로 끌어들이는 중이다.
스콧 베선트 미국 재무장관은 지난 8일(현지시간) 브라이트바트 뉴스 행사에서 "중국이 AI 경쟁에서 미국을 앞선다면 다른 모든 것은 중요하지 않게 된다"는 취지로 경고했다. 블룸버그통신은 베선트 재무장관이 중국에 AI 주도권을 내줄 경우 막대한 국방비를 투입하더라도 미국의 안보 우위를 지키기 어렵다고 강조했다고 9일 전했다.
하지만 미국의 대중국 기술 견제가 오히려 인재 경쟁력을 약화시킬 수 있다는 우려가 나온다. 뉴욕타임스(NYT)는 지난달 17일 미국의 연구비 삭감과 제한적인 이민정책, 중국계 과학자에 대한 경계심이 맞물리면서 미국의 전통적인 인재 흡인력이 약해진다고 분석했다.
미국으로 향하는 외국인 인재의 통로는 좁아지는 추세다. 미국 국무부에 따르면 미국이 지난해 발급한 국제학생 비자는 전년보다 23% 줄었다. 미국 유학생 비자(F-1) 거부율은 35%까지 치솟아 최근 10년 내 최고치를 기록했다. 전세계에서 미국으로 유학가려는 학생 3명 중 1명꼴로 비자 심사에서 탈락한 셈이다.
◇'밀어내기 효과' 돌아선 연구자들
미국 과학계는 외국 인재에 의존해온 정도가 크다. 미국이민정책국가재단(NFAP)에 따르면 2000년 이후 미국인이 받은 화학·생리의학·물리학 노벨상 가운데 약 40%를 이민자가 차지했다.
그러나 비자 장벽이 높아지고 이민 불확실성이 커지자 미국에서 고국으로 돌아가는 인재가 잇따른다. 중국이 대표적이다. 중국 교육부 집계로 지난해 해외 유학을 마치고 귀국한 학생은 53만5600명에 달한다. 미국 카네기멜론대에서 박사학위를 받은 양즈린 문샷AI 공동창업자는 미국에서 중국으로 돌아간 대표적 AI인재다.
그는 구글과 메타에서 인턴으로 일하고 애플의 취업 제안도 받았지만 중국으로 돌아가 문샷AI를 창업했다. 문샷AI가 지난 7월 공개한 오픈소스 AI 모델 '키미 K3'는 미국의 최상위 모델에 근접한 성능을 낮은 비용으로 구현했다는 평가를 받았다. 양즈린의 귀국을 미국 비자 문제때문만이라고 설명하기는 어렵다. 그러나 미국의 이민제도가 외국인 AI 연구자가 미국에서 곧바로 창업하기에 불리한 구조라는 지적이 이어진다.
미국 비영리 매체 '레스트오브월드'는 미국의 현행 H-1B 비자나 취업 이민 제도에 따르면 외국인 인재가 졸업 후 현지에서 곧바로 창업가로 서기에 불리하고 불확실성이 크다고 지난달 25일 지적했다.
학계에서도 비슷한 움직임이 나타난다. 지난해 노벨화학상을 공동 수상한 오마르 야기 교수는 캘리포니아대 버클리를 떠나 중국 칭화대에 합류해 AI를 활용한 신소재 개발 연구를 이끈다. 야기 교수는 영국 교육 주간지 타임스하이어에듀케이션(THE)에 미국의 연구 예산 삭감과 심화된 이민 규제 때문에 환멸을 느껴 자리를 옮겼다고 말했다.
세포 내부를 원자에 가까운 수준으로 시각화하는 연구로 알려진 장카이 교수 역시 올해 예일대를 떠나 중국과학기술대로 옮겼다. 미국 내에서 중국계 과학자에 대한 감시가 강화된 게 한 배경으로 꼽힌다. 장 교수는 지난 3월 중국과학보 인터뷰에서 "미국에서는 중국인 학자가 이 정도 규모의 대형 프로젝트를 주도하는 것이 거의 불가능에 가깝다"고 말했다.
◇미국 우위 여전하지만…커지는 인재 유출 우려
미국 인재 경쟁력이 이미 중국에 넘어갔다고 단언할 순 없다. 미국 대학에서 연구 박사학위를 받은 중국 국적자 가운데 상당수는 여전히 미국에 남길 희망한다. NYT는 중국이 자금과 연구 인프라 측면에서 미국과 격차를 좁히고 있지만 연구자의 자유와 제도적 안정성은 여전히 미국의 강점이라고 평가했다.
그러나 미국의 이민 장벽이 높아지고 연구 환경도 불확실해진다면 인재 흡인력이 약화할 수 있다는 우려가 나온다. 세계적인 수학자 테런스 타오 UCLA 교수는 NYT에 "과거 미국은 최고의 인재에게 사실상 당연한 선택지였다"면서도 앞으로 고급 인재가 자동으로 미국을 선택할 것이라고 장담할 수 없다고 밝혔다.
샘 올트먼 오픈AI 최고경영자(CEO), 일론 머스크 xAI(엑스에이아이) CEO, 다리오 아모데이 앤트로픽 CEO는 오픈AI라는 '뿌리'는 같지만 AI(인공지능)의 방향성을 두고 충돌하면서 소송도 불사할 만큼 치열하게 경쟁해 왔다. 협력보다 경쟁 중심이던 이들이 12일(현지시간) AI 개발에 브레이크를 걸어야 한다고 모처럼 한목소리를 낸 건 이례적이다.
◇유비·관우·장비처럼 손잡고 AI 개척
올트먼, 머스크는 2015년 오픈AI가 비영리연구소로 창립할 때 함께했다. 아모데이 역시 오픈AI에 초기합류한 핵심멤버로 연구담당 부사장까지 지내며 챗GPT 개발을 이끌었다. 오픈AI 태동기에 이른바 '도원결의'로 전성기를 함께 이끈 셈이다. 이후 AI의 상업화와 안전성 문제 등을 두고 이견이 점차 드러났다.
머스크 CEO는 2017년 오픈AI를 테슬라의 자회사로 두는 방안을 제시했다. 올트먼 등 다른 설립 멤버들은 이에 반대했고 경영권 확보가 무산된 머스크 CEO는 2018년 이사회에서 사임하고 자금 지원을 중단했다.
올트먼 CEO는 마이크로소프트(MS) 등으로부터 투자를 받았고 상업화를 거부하지 않았다. 머스크 CEO는 이를 비난했고 이는 오픈AI의 영리화, AI 모델 활용 관행 등에 대한 양측의 소송으로 번졌다.
아모데이 CEO는 올트먼의 오픈AI 비전에 의문을 가졌다. 결국 회사를 나온 그는 2021년 앤트로픽을 설립하고 AI 모델 출시 전 기술적인 정렬(얼라인먼트)을 통해 규율하는 '헌법적 AI'를 내세웠다. 오픈AI에서 함께 일하던 여동생 다니엘라도 나란히 퇴사, 앤트로픽을 함께 세웠다.
◇조조·유비·손권처럼 등돌리고 주도권 경쟁
세 사람은 '결별' 후 서로 뒤질세라 AI 개발에 가속도를 붙여왔다. 그 결과 각자 오픈AI의 GPT, 앤트로픽 클로드, xAI 그록이라는 세계 최고 수준의 AI 모델을 각각 구축했다. 이들은 현재 세계 AI 트렌드를 지배하는 3인방이다. 젠슨황 엔비디아 CEO까지 합쳐 네 사람이 AI 기술발달과 관련 투자 동향에 절대적 영향력을 끼친다는 평가도 있다.
이들 모두 AI가 인간의 지능을 뛰어넘는 인공일반지능(AGI) 시대가 올 것으로 예상한다. 최근 허깅페이스 해킹 사건 등 AI 에이전트를 인간 개발자들이 통제하지 못한 사례가 터져 나오자 아모데이 CEO가 개발 속도 늦추기를 제안했다. 아모데이 CEO는 외부 감독 인력에게 내부직원과 동일한 접근권을 주는 방안을 제시했다. 머스크와 올트먼 모두 엑스(X) 등을 통해 "다리오가 옳다"며 뜻을 모았다.
올트먼 CEO는 "오픈AI도 최근 몇 주간 이것을 최우선 주제로 논의해 왔다"며 감독인력 접근권 보장에 대해 "우리도 똑같이 할 것"이라고 밝혔다.