머니투데이

"솔직히 말씀드리면 실질적인 위험들이 존재합니다" 다리오 아모데이 앤트로픽 최고경영자(CEO)가 연일 인공지능(AI)에 대해 경고를 내놨다. 개인 블로그에 '프론티어(최첨단) 속도를 조절해야 한다'는 글을 게시한데 이어 언론에도 AI 발전 속도조절의 필요성을 재차 강조하고 나선 것이다. 아모데이 CEO는 13일(현지시간) 미 방송사 CBS와 인터뷰에서 "너무 오랫동안 업계가 이 기술에 위험이 있다는 사실에 대해 사람들에게 거짓말을 했다고 생각한다"며 이같이 밝혔다. 아모데이 CEO는 "당장 오늘 공포에 떨어야 한다거나 모든 개발을 중단해야 한다는 뜻은 아니다"라면서도 "속도를 늦춰야 한다는 경고 신호"라고 덧붙였다. 그러면서 앤트로픽이 더 발전된 모델의 출시를 중단할 것인지에 대한 질문에는 "그런 의미는 아니다"라며 "우리가 출시하는 모든 세대의 모델이 제대로 된 검증을 거치도록 해야 한다는 뜻"이라고 설명했다. 이를 실행하기 위해 앤트로픽이 독립 평가자들에게 '직원에 준하는' 수준의 모델 상시 접근 권한을 부여할 것이라고 밝혔다.

사티아 나델라 마이크로소프트(MS) 최고경영자(CEO)가 최근 불거진 AI 속도조절론에 동의하면서도 소수의 주체가 AI 감시·통제를 맡아선 안 된다고 밝혔다. 나델라 CEO는 13일(현지시간) 자신의 소셜미디어(SNS) 엑스(X)에서 "초지능(Superintelligence)을 향한 어떠한 여정도 '우리가 구축하는 AI가 인류에 도움이 되지 않고 인간의 통제 아래 있지 않다면 추구할 가치가 없다'는 핵심 원칙에 뿌리를 둬야 한다"고 밝혔다. 그러면서 초지능 개발의 대전제로 '인간의 통제'와 '이익 공유'를 제시했다. 그는 AI의 혜택이 특정 국가나 기업에 편중되지 않아야 한다고 강조했다. 나델라 CEO는 "AI의 혜택을 국가, 지역 사회, 기업 전반에 널리 확산하고 가속화해야 한다"며 "이를 위해서는 폐쇄형 모델과 오픈소스 모델이 함께 공존하며 번영할 수 있는 프론티어 생태계가 필수적"이라고 강조했다. 기업의 자체 지식 통제권에 대해서도 언급했다. 그는 "기업들이 자신들만의 고유하고 암묵적인 지식에 대한 완전한 통제권을 유지하는 것이 매우 중요하다"며 "모든 조직은 특정 단일 모델 제공업체에 종속되지 않고 자체적인 지속적 학습 루프를 구축할 수 있어야 하며 직접 통제하는 모델과 가중치(weights)에 자체 지식을 내재화할 수 있는 역량을 갖춰야 한다"고 말했다.

세계 수학계 최고 권위자들이 인공지능(AI) 기업들의 무분별한 성과 경쟁을 비판하는 성명을 내놨다. 무분별한 수학 난제 풀이 경쟁이 사유와 창의성이라는 인간 고유의 역량을 오히려 갉아먹을 수 있다는 우려에서다. 허준이 미국 프린스턴대 교수와 테런스 타오 로스앤젤레스 캘리포니아대(UCLA) 교수 등 '수학계의 노벨상'으로 불리는 필즈상 수상자 25명은 11일(현지 시간) 온라인 공동 선언문을 내고 "AI 기업과 수학계의 목표가 심각하게 어긋나 있다"는 입장을 냈다. 이들은 AI 기업들의 수학 난제 해결 경쟁이 오히려 수학이라는 학문 자체에 해를 끼치고 있다고 경고하고 나섰다. 이들은 "문제를 푸는 것은 개념적 이해와 통찰이라는 본래 목표를 위한 도구이자 대리 수단일 뿐"이라며 "AI 시대에 이를 잊으면 도구가 본래 목표를 거스르게 된다"고 했다. 그러면서 "종종 이러한 (AI의) 해법들은 성급하게 발표돼 제대로 된 서술을 정리하거나 새로운 방법론 및 아이디어를 분리해 내고 타인의 관련 선행 연구를 인용할 시간조차 갖지 못한다"며 "여타 창작 직군과 마찬가지로이는 심각한 기여 인정(저작권 표기) 및 표절 문제를 야기한다"고 했다.

━앤트로픽 CEO "AI 개발속도 늦춰야"…오픈AI·스페이스X "동의"━앤트로픽, 오픈AI, 스페이스X 등 인공지능(AI) 선두업체의 수장들이 AI 개발 속도를 늦춰야 한다는데 뜻을 모았다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 12일(현지시간) 개인 블로그에 '프론티어(최첨단) 속도를 조절해야 한다'는 글을 게시하고 "AI 모델의 역량을 향상시키는 속도를 늦춰야 한다"고 밝혔다. 아모데이 CEO는 "속도 조절은 모델 학습이나 기술 발전을 중단하는 것을 의미하는 것은 아니"라며 이같이 밝혔다. 그러면서 제 3자가 AI를 검증하는 3단계 계획을 제시했다. 우선 앤트로픽은 완성된 AI를 비롯해 AI 학습 과정 전반의 적합성을 평가하는 제 3자 평가팀을 도입할 방침이다. 아모데이 CEO는 이를 은행의 감독관에 빗대면서 "직원과 유사한 수준의 지속적인 접근 권한을 제공할 것"이라고 밝혔다. 또 민주주의 국가의 프론티어 AI 기업들이 공유하는 안전 기준을 마련하고 나아가 권위주의 정부와도 생물학 무기 등 공통된 위협에 대해 합의하는 전세계적인 협력 체제를 구축하자는 게 그의 구상이다.

샘 올트먼 오픈AI 최고경영자(CEO), 일론 머스크 xAI(엑스에이아이) CEO, 다리오 아모데이 앤트로픽 CEO는 오픈AI라는 '뿌리'는 같지만 AI(인공지능)의 방향성을 두고 충돌하면서 소송도 불사할 만큼 치열하게 경쟁해 왔다. 협력보다 경쟁 중심이던 이들이 12일(현지시간) AI 개발에 브레이크를 걸어야 한다고 모처럼 한목소리를 낸 건 이례적이다. ━유비·관우·장비처럼 손잡고 AI 개척━올트먼, 머스크는 2015년 오픈AI가 비영리연구소로 창립할 때 함께했다. 아모데이 역시 오픈AI에 초기합류한 핵심멤버로 연구담당 부사장까지 지내며 챗GPT 개발을 이끌었다. 오픈AI 태동기에 이른바 '도원결의'로 전성기를 함께 이끈 셈이다. 이후 AI의 상업화와 안전성 문제 등을 두고 이견이 점차 드러났다. 머스크 CEO는 2017년 오픈AI를 테슬라의 자회사로 두는 방안을 제시했다. 올트먼 등 다른 설립 멤버들은 이에 반대했고 경영권 확보가 무산된 머스크 CEO는 2018년 이사회에서 사임하고 자금 지원을 중단했다.

미국이 중국과의 인공지능(AI) 패권 경쟁을 강조하면서도 정작 고급 인재를 스스로 밀어낸다는 지적이 나온다. 이민 규제가 강해지고 연구 환경의 불확실성이 커지는 사이 중국은 미국에서 훈련받은 인재를 적극적으로 끌어들이는 중이다. 스콧 베선트 미국 재무장관은 지난 8일(현지시간) 브라이트바트 뉴스 행사에서 "중국이 AI 경쟁에서 미국을 앞선다면 다른 모든 것은 중요하지 않게 된다"는 취지로 경고했다. 블룸버그통신은 베선트 재무장관이 중국에 AI 주도권을 내줄 경우 막대한 국방비를 투입하더라도 미국의 안보 우위를 지키기 어렵다고 강조했다고 9일 전했다. 하지만 미국의 대중국 기술 견제가 오히려 인재 경쟁력을 약화시킬 수 있다는 우려가 나온다. 뉴욕타임스(NYT)는 지난달 17일 미국의 연구비 삭감과 제한적인 이민정책, 중국계 과학자에 대한 경계심이 맞물리면서 미국의 전통적인 인재 흡인력이 약해진다고 분석했다. 미국으로 향하는 외국인 인재의 통로는 좁아지는 추세다. 미국 국무부에 따르면 미국이 지난해 발급한 국제학생 비자는 전년보다 23% 줄었다.

AI 개발 경쟁이 인류의 목숨까지 위협할 수 있다는 극단적인 경고가 이어진 가운데 업계에서 개발 속도를 조절하자는 데 의견이 모였다. AI 개발 경쟁에 가속도가 붙으면서 통제 범위를 벗어나고 있다는 우려에 따른 것이다. 일각에서는 업계의 '선수' 기업들이 규제를 주도하는 '심판' 역할까지 하려 한다는 지적과 선두 지위를 굳히려 한다는 비판도 나온다. 12일(현지시간) 다리오 아모데이 앤트로픽 최고경영자(CEO)가 "AI 모델의 역량을 향상시키는 속도를 늦춰야 한다"는 글을 올리자 샘 올트먼(오픈AI)·일론 머스크(스페이스X)·데미스 허사비스(구글 딥마인드) CEO는 속도 조절에 동의한다고 밝혔다. 구글의 모회사인 알파벳과 메타에서는 아직 공식 입장이 나오지 않았다. 이번 성명은 앤트로픽 개발자들이 잇따라 AI의 암울한 미래를 경고한 뒤 나왔다. 제이컵 콕슨은 앤트로픽을 퇴사하면서 "AI가 10년 안에 인류를 모두 멸종시킬 수 있다고 믿고 있다"고 주장했다. 다음날 앤트로픽의 에번 휴빙거 연구원은 "AI가 향후 10년 안에 인류를 전멸시킬 확률이 10%를 넘는다"고 말을 보탰다.

앤트로픽, 오픈AI, 스페이스X 등 인공지능(AI) 선두업체의 수장들이 AI 개발 속도를 늦춰야 한다는데 뜻을 모았다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 12일(현지시간) 개인 블로그에 '프론티어(최첨단) 속도를 조절해야 한다'는 글을 게시하고 "AI 모델의 역량을 향상시키는 속도를 늦춰야 한다"고 밝혔다. 아모데이 CEO는 "속도 조절은 모델 학습이나 기술 발전을 중단하는 것을 의미하는 것은 아니"라며 이같이 밝혔다. 그러면서 제 3자가 AI를 검증하는 3단계 계획을 제시했다. 우선 앤트로픽은 완성된 AI를 비롯해 AI 학습 과정 전반의 적합성을 평가하는 제 3자 평가팀을 도입할 방침이다. 아모데이 CEO는 이를 은행의 감독관에 빗대면서 "직원과 유사한 수준의 지속적인 접근 권한을 제공할 것"이라고 밝혔다. 또 민주주의 국가의 프론티어 AI 기업들이 공유하는 안전 기준을 마련하고 나아가 권위주의 정부와도 생물학 무기 등 공통된 위협에 대해 합의하는 전세계적인 협력 체제를 구축하자는 게 그의 구상이다.