머니투데이

인공지능(AI) 분야의 3대 대부로 꼽히는 요슈아 벤지오 캐나다 몬트리올대 교수가 AI 기술 폭주를 막기 위해 핵무기 통제에 준하는 강력한 국제 안전장치를 마련해야 한다고 촉구했다. 빅테크업계의 주도권 경쟁으로 AI 시스템이 인간의 제어를 벗어나 스스로 성능을 개량하는 단계에 도달할 위험이 커지자 안전 검증이 기술 발전 속도를 따라잡을 때까지 AI 모델의 훈련을 일시 중단하거나 개발 속도를 조절해야 한다는 목소리가 커진 가운데 세계적인 석학도 규제 필요성에 힘을 보태고 나선 것이다. 벤지오 교수는 16일(현지시간) AFP 통신과 인터뷰에서 "기업들조차 속도가 너무 빨라 통제력을 잃어가고 있다고 말하는 데는 이유가 있다"며 "나를 비롯한 전문가들은 이런 위험을 오래 전부터 예견했다"고 말했다. 벤지오 교수는 인간의 개입 없이 스스로 판단하고 행동하는 AI 에이전트의 출현을 가장 치명적인 위협으로 지목했다. "AI 에이전트가 고도화하면 사이버 보안 장벽을 무력화하고 어떤 기업이나 기관이든 침투할 수 있는 능력을 갖추게 될 것"이라는 것이다.

미국인 10명 가운데 6명 이상이 인공지능(AI) 통제 불능으로 인류가 멸망할 가능성을 우려한다는 여론조사 결과가 나왔다. 16일(현지시간) 미 정치전문매체 폴리티코에 따르면 지난 13∼15일 미국 성인 2064명을 대상으로 진행한 온라인 여론조사(표본오차 ±2. 2%포인트)에서 통제 불능 상태에 놓인 AI가 인류를 멸망시킬 수 있다고 답한 응답자가 63%에 달했다. 특히 AI 통제 불능이 인류를 멸망시킬 가능성이 거의 확실하다고 답한 응답자가 17%에 달했다. '중대하게 위험하다', '어느 정도 위험하다'고 답한 응답자는 각각 20%, 26%였다. '위험이 매우 적다'고 답한 이들은 15%, '위험이 없다'는 응답자는 7%로 집계됐다. '잘 모르겠다'를 선택한 응답자는 15%였다. 2024년 대선에서 공화당 후보였던 도널드 트럼프 대통령을 뽑은 응답자 중에선 61%가, 민주당 후보인 카멀라 해리스 전 부통령을 선택한 응답자 중에선 70%가 AI 통제 불능에 따른 인류멸망 가능성을 우려한다고 답했다.

미국에서 안전을 위해 AI 개발 속도를 늦춰야 한다는 주장이 나오는 가운데 중국 AI 스타트업 딥시크의 핵심 엔지니어가 이에 공개적으로 반박했다. AI 개발을 늦추기보다 최첨단 기술을 소수 기업이 독점하지 못하도록 개방하는 것이 중요하다는 주장이다. 16일 딥시크 V4. 1 모델 개발에 참여한 엔지니어 류성위는 지난 14일 자신의 위챗(중국 사회관계망서비스)에 올린 글을 통해 "최첨단 지능은 개방적이고 저렴한 방식으로 모든 사람에게 공급돼야 한다"고 주장했다. 그는 미국 AI 기업을 직접 겨냥, "앤트로픽이나 오픈AI가 그렇게 할 것이라고 믿지 않는다"며 "특히 앤트로픽이 가장 발전한 AI나 범용인공지능(AGI)을 장악하는 것을 원하지 않는다"고 했다. AI 기술이 소수 기업에 집중될 경우 사회 계층 이동도 갈수록 어려워질 수 있다고 우려했다. 특히 앤트로픽이 최첨단 AI를 장악하는 상황에 대해 "과장해서 말하면 히틀러가 연합국보다 먼저 원자폭탄 기술을 장악하는 것에 못지않게 심각하다"고 했다.

마크 저커버그 메타플랫폼(이하 메타) 최고경영자(CEO)가 인공지능(AI) 안전 문제를 독립 평가와 자문단을 활용해 해결해야 한다는 입장을 내놨다. 다리오 아모데이 앤트로픽 CEO를 중심으로 퍼진 'AI 속도조절론'에 동의하지 않는다는 뜻을 내비친 것이다. 저커버그 CEO는 그간 다른 기술 기업 수장들과 달리 속도조절론에 침묵해 왔다. 저커버그 CEO는 15일(현지시간) 소셜미디어(SNS) X에 지난달 발표한 자신의 에세이 '모두를 위한 미래' 링크를 공유하며 "모든 AI 연구소는 모델을 안전하게 학습시키는 데 필요한 속도로 움직일 책임과 유인이 있고, 이를 보장할 자체 조처를 할 역량을 갖고 있다"며 이같이 밝혔다. 그는 "메타는 안전과 보안에 집중하기 위해 뮤즈(Muse·메타의 일상용 AI 비서)의 출시를 몇 달간 연기했다. 사람들과 우리에게 올바른 일이라고 판단했기 때문에 일상적인 업무의 일부로 그렇게 결정했다. 우리가 구축한 보안 기반에 자부심을 느낀다"고 말했다. 이어 "독립적인 평가와 자문위원을 참여시키는 것은 업계의 모범 사례다.

미국 기술업계와 워싱턴 정가에서 인공지능(AI) 개발 속도를 늦춰야 한다는 목소리가 높아진 가운데 토드 블랜치 미국 법무장관은 11월 중간선거를 앞두고 AI 공포감이 조장된 건 민주당의 정치적 공작이라고 주장했다. AI 기업에 대한 정부 규제 논의와 관련해서는 법무부의 역할은 규제가 아니라 법 집행이라는 입장을 강조했다. 로이터통신 등 주요 외신에 따르면 블랜치 장관은 15일(현지시간) 백악관 로즈가든에서 열린 기자회견에서 중간선거를 약 50일 앞두고 불거진 AI 논쟁의 시점에 의문을 제기했다. 그는 "수개월 동안 이상하리만큼 침묵하던" 의원들이 중간선거 두 달을 앞두고 갑자기 목소리를 높이고 있다면서, 민주당의 시기 선택에 "중간선거에 영향을 미치려는 의도가 있는 것 같다"고 비판했다. 이어 그는 "대통령이 이를 사기극이라 칭한 것도 3개월 전이 아닌 지금 이 시점에서 이런 식으로 문제를 제기하는 상황을 두고 한 말"이라며 "정치적 의도가 AI 의사결정을 좌우해서는 안 된다. 우리는 중국과의 AI 경쟁에서 질 수 없다"고 목소리를 높였다.

━트럼프 "음모론" 中 "공포조장". 'AI 브레이크' 나란히 발끈━ 인공지능(AI) 개발속도를 조절해야 한다는 AI 업계 빅테크 기업들의 주장이 일파만파 번지고 있다. 도널드 트럼프 미국 대통령이 이를 '음모론'으로 규정하고 중국만 이롭게 할 것이라고 반박하면서 이 문제는 AI 기술 차원을 넘어 미중 패권경쟁의 변수로 부상했다. 11월 미국 중간선거에서도 쟁점이 될 태세다. 트럼프 대통령은 14일(현지시간) 소셜미디어 트루스소셜을 통해 "AI와 데이터센터를 겨냥한 역겨운 음모가 있다"며 "이를 기뻐할 유일한 나라는 중국"이라고 주장했다. 이어 "AI에서 이기는 자가 승리할 것"이라며 "우리는 중국과 다른 모든 나라보다 앞서고 있으며 계속 그렇게 할 것"이라고 밝혔다. 그러면서 "음모론자들, 반역자들, 배신자들, 정보유출자들은 조심하라"고 경고했다. 그는 AI 속도조절론에 앞장선 다리오 아모데이 앤트로픽 최고경영자(CEO)에 대해선 "완벽한 작은 천사인 척 한다"고 맹비난했다. 트럼프 대통령은 "AI에 필요한 유일한 통제 또는 안전장치는 강하고 똑똑한 대통령이고 미국은 그런 대통령을 보유하고 있다"며 정부 차원의 AI 규제정책을 펴는 것을 사실상 거부했다.

인공지능(AI) 기업 수장들의 "속도 조절" 경고에도 아랑곳하지 않고 AI 투자 열기는 여전히 뜨겁다. AI 개발 속도가 둔화해도 AI 인프라 관련 기업들의 수익은 여전할 것으로 판단, AI 투자 대상을 반도체에서 빅테크, 사이버보안, 소프트웨어 종목으로 재편하고 있다는 분석이다. 14일(현지시간) 월스트리트저널(WSJ)은 이날 뉴욕증시에서 'AI 속도조절론'에 반도체 종목은 흔들렸지만, AI 데이터센터 투자에 적극적인 빅테크의 주가는 오름세를 보였다며 "월가 투자자들은 다리오 아모데이(앤트로픽), 샘 올트먼(오픈AI), 일론 머스크(스페이스X) 등 AI 기업 수장들의 AI 위험성과 개발 속도 조절 경고에 고개를 끄덕이면서도 AI 관련 주식 투자를 멈추지 않고 있다"고 보도했다. 이날 뉴욕증시에서 마이크로소프트(MS)·알파벳·메타 플랫폼 등 이른바 'AI 하이퍼스케일러' 3사의 주가는 이날 모두 2% 이상 올랐다. 크라우드스트라이크(13. 85%), 팔로알토네트웍스(13. 09%), 팔란티어(3.

중국은 실리콘밸리를 중심으로 제기된 인공지능(AI) 개발 속도 조절론에 대해 "공포 조장"이라며 일축했다. AI를 경제 성장과 국가 경쟁력을 좌우할 핵심 기술로 여기는 만큼 미국의 움직임을 기술 패권 경쟁의 연장선으로 받아들이는 분위기다. ━중국, AI 속도 조절론에 "공포 조장·대립 거부"━블룸버그통신 등 주요 외신에 따르면 14일(현지시간) 중국 외교부 대변인은 정례 브리핑에서 AI 개발 속도를 늦춰야 한다는 주장과 중국의 AI 우위가 세계에 위협이 된다는 지적에 대해 "공포 조장과 대립, 악의적인 경쟁은 글로벌 AI 거버넌스의 발전을 방해할 뿐 누구에게도 이익이 되지 않는다"고 반박했다. 이어 "AI의 발전은 인류 전체의 공동 이익과 관련된 문제"라고 강조했다. 지난주 다리오 아모데이 앤트로픽 CEO는 기업들에게 고도화된 AI가 인류에 위험이 될 수 있다면서 첨단 AI 개발 속도를 늦추자고 공개 제안했다. 또 아모데이 CEO는 미국 등 민주주의 국가들이 AI 분야에서 기술적 우위를 유지해야 한다면서, 중국에 대한 첨단 반도체 수출 통제를 강화하고 중국이 AI를 개발할 때 미국 AI 모델을 활용하는 '증류' 행위도 규제해야 한다고 주장했다.

미국 빅테크 수장들이 잇따라 인공지능(AI) 개발 속도를 늦춰야 한다는 이른바 'AI 속도조절론' 주장을 펼치는 가운데 마이크로소프트(MS)가 'AI 행동 강령'을 발표했다. MS는 14일(현지시간) 홈페이지를 통해 자사 AI 모델 'MAI'의 행동 원칙을 담은 임시 강령 '인본주의적 AI(Humanist AI) 행동 강령'을 발표했다. MAI 모델은 MS의 프런티어(최첨단) AI 연구소인 MS AI가 자체 개발한 모델 군으로, 지난 6월 7종을 공개한 바 있다. MS의 행동 강령은 "인간이 AI보다 중요하다"는 전제로 인간이 AI에 대한 실질적인 통제력을 유지해 AI가 인간의 건강하고 행복하며 생산적인 삶을 살아가는 데 도움을 주는 것을 목표로 한다. 강령에 따르면 MS의 AI 모델은 무기 개발, 폭력 및 성적 콘텐츠 제작, 건강에 해로운 식습관 조장, 위험물질 조달 지원 등이 금지된다. 또 인간이 설정한 목표에 따라 승인한 범위에서만 작동해야 하며 자체적인 목표를 만들 수 없다. 아울러 자신의 추론 과정·코드 등을 조작하거나 은폐하는 행위, 인간의 이해 범위를 넘어선 신경망 언어나 기타 언어를 사용한 AI 간 소통도 제한된다.

크리스틴 라가르드 유럽중앙은행(ECB) 총재가 미국과 중국의 인공지능(AI) 양강 구도 속에서 유럽이 실질적 이익은 얻지 못한 채 비용만 떠안을 위험에 처했다고 경고했다. 이같은 위기 속 자체 AI 모델과 컴퓨팅 용량 확충을 조언했다. 로이터통신과 AFP 통신에 따르면 라가르드 총재는 14일(현지시간) 오스트리아 빈 연설에서 "유럽의 인프라(기반)이 뒤처지는 동안 투자자들이 미국의 설비 확충 비용을 대고 있다"며 이같이 지적했다. 그는 유럽 가계가 엔비디아, 알파벳 등 미국 기술기업 주식을 약 4400억 유로(약 684조6752억원)어치 보유하고 있다며 "유럽이 시대를 바꾸는 변혁적 기술에 자금을 대고 있지만 정작 관련 기업들은 다른 곳에서 세워지고 있다"고 지적했다. 유럽 연금펀드 역시 미국 기술주에 대거 투자하고 있어 향후 시장 조정이 있을 경우 유럽 자산에도 영향을 미칠 수 있다고 경고했다. ━ AI 자체모델 촉구. '소버린 AI' 고민━그는 외국 기술을 도입하는 것 자체에는 문제가 없다면서도 AI 도구가 경제 전반에 걸쳐 적용될 경우를 우려했다.

인공지능(AI) 개발속도가 인간의 통제를 벗어날 수 있다는 AI 속도조절론이 확산한 가운데 젠슨 황 엔비디아 최고경영자(CEO)는 AI가 인류를 멸종시킬 수 있다는 주장을 비과학적이라고 일축했다. 도널드 트럼프 미국 대통령도 "산업을 멈추지는 않을 것"이라며 황 CEO와 비슷한 입장을 보였다. 14일 뉴욕타임스(NYT)와 액시오스에 따르면 황 CEO는 미국 로스앤젤레스에서 열린 '올인 서밋(All-In Summit)' 대담에서 앞서 제이콥 콕슨 전 앤트로픽 연구원이 제기한 AI 종말론에 대해 "미래에 대한 예측은 과학에 근거하지 않았다"며 받아들이지 않았다. 다만 내부고발 자체에 대해서는 긍정적으로 평가했다. 그는 앤트로픽 연구원이 AI 기업 내부의 통제 문제를 지적한 부분에 대해서는 "매우 심각하게 받아들여야 한다"고 말했다. 그러면서도 AI 발전이 위험하다면 기업 스스로 통제해야 한다는 입장을 밝혔다. 그는 "AI 기업들이 자신들의 회사가 통제 불능이라고 느낀다면 자체적으로 개발을 일시 중단하거나 속도를 조절해야 한다"고 말했다.

━"IPO·개발 미룬다" 반도체주 흔들. '수익화 시간' 시각도 ━◇AI 공급망 관련 주가 타격 미국에서 '인공지능(AI) 속도조절론'이 급부상한 가운데 삼성전자 SK하이닉스와 미국 마이크론 등 반도체 관련주에 미칠 영향도 주목된다. 시장 전문가들은 반도체와 AI 공급망 관련주가 단기적으로는 타격을 받을 수 있다고 본다. 그럼에도 장기적인 성장 궤도가 유지되는 만큼 여파가 장기화할 가능성은 낮다고 예상했다. 13일(현지시간) 블룸버그통신에 따르면 시장 전략가들은 AI 개발 신중론이 반도체 제조업체와 AI 공급망 관련주에 대한 단기 매도세를 자극할 수 있다고 지적했다. 첨단 AI 모델 개발에 대한 신중한 접근이 관련 기업 실적의 발목을 잡을 수 있단 우려가 커질 수 있어서다. 앞서 다리오 아모데이 앤트로픽 최고경영자(CEO)는 안전 확보 속도가 AI 능력 발전 속도를 따라잡을 수 있도록 AI 개발 속도를 조절하자고 제안했고 오픈AI의 샘 올트먼과 일론 머스크 등도 공개적으로 호응했다. 다만 이번 악재가 AI 투자의 장기 성장세를 꺾지는 못할 것이라는 게 중론이다.