머니투데이

AI(인공지능)에 대해 낙관론과 비관론(종말론)이 충돌하면서 뉴욕증시의 AI·반도체 관련 종목은 물론, 정부 규제를 둘러싼 논란도 다시 가열되고 있다. 외신을 종합하면 낙관론의 중심에는 페이스북 모회사 메타의 신규 AI 서비스 '뮤즈(Muse)'가 있다. 시장조사업체 앱토피아 등에 따르면 뮤즈는 출시 12일 만에 280만건의 다운로드를 기록하며 초기 챗GPT보다 빠른 확산세를 보이고 있다. 기존 AI 서비스가 이용자의 질문에 대답하는 수준이라면 뮤즈는 이용자를 대신해 앱을 실행하고 업무를 처리하는 '행동형 AI 에이전트'다. 이용자가 일일이 여러 앱을 열어 작업하던 과정을 AI가 한 번에 수행하면서 진정한 의미의 '개인비서' 시대를 열었다는 평가다. 이에 메타를 비롯한 빅테크 및 반도체주가 상승세를 보였다. AI 에이전트를 구동하는 데 중앙처리장치(CPU) 역할이 중요하다는 점이 강조되면서 관련 기업에 대한 기대감도 높였다. 메타는 지난 한 주 13% 가까이 급등했다. AMD가 시가총액 1조달러를 돌파한 배경에도 '뮤즈 효과'가 있다.

오픈AI의 인공지능(AI) 에이전트가 호주 보건 당국 웹사이트 침투를 시도한 것으로 알려진 가운데 지난 여름에는 미국 정부 웹사이트에도 접근한 것으로 나타났다. AI의 보안 침해 사고가 이어지면서 기술 발전에 따른 안전 위험성을 우려하는 목소리가 높아지고 있다. ━미 정부 기관부터 호주 보건DB까지… 통제 벗어난 AI의 무단 정탐━26일(현지시간) 미 CNN에 따르면 오픈AI는 이날 자사 에이전트들이 온라인에서 발견한 로그인 자격 증명을 이용, 미 상무부 산하 인구조사국의 공개 데이터에 접근했다고 밝혔다. 오픈AI 에이전트들은 이와 별도로 증권거래위원회(SEC) 웹사이트의 공개 데이터를 다른 웹사이트에 공유했다. 보도에 따르면 오픈AI의 에이전트들은 미 교육부에 접근, 인권 담당 부서의 데이터 수집을 시도했으나 실패했다. 오픈AI는 "정렬되지 않은 모델 활동에 대한 광범위한 검토를 이어가는 한편 관련 기관들에 이러한 조사 결과를 통보했다"고 CNN에 밝혔다. 오픈AI 대변인은 "일부 모델은 신뢰할 수 있는 공공 정보를 수집하기 위해 정부 웹사이트를 자주 찾는 경향이 있다"고 설명했다.

빌 게이츠 마이크로소프트(MS) 공동창업자가 인공지능(AI) 기술이 잘못 사용될 경우 10억명의 사망자를 낼 만큼 치명적인 무기가 될 수 있다고 경고했다. 빅테크 기업들의 자율 규제가 한계에 다다른 만큼 정부 차원의 강력한 규제가 시급하다는 지적이다. 게이츠는 25일(현지시간) 공개된 미 NBC 뉴스 인터뷰에서 "AI는 10억명이 사망하는 사건을 초래할 수 있을 만큼 충분히 강력하다"며 "인류를 100% 죽이는 수준까지 가는 것은 상당히 어렵겠지만 악의를 가진 사람들이 최신 AI를 사용하는 것만큼 강력한 무기는 지금까지 없었다"고 말했다. 게이츠는 특히 치명적인 생화학 무기 설계나 국가 기반 시설을 겨냥한 고도화된 사이버 공격에 AI가 악용될 위험을 핵심 위협으로 꼽았다. 고도의 전문 지식이 없어도 AI의 도움을 받아 치명적인 해킹이나 바이러스 설계를 실행할 수 있게 되면서 과거와는 차원이 다른 보안 위협이 현실화하고 있다는 설명이다. AI가 치명적 무기 제조나 대규모 테러의 문턱을 파격적으로 낮추고 있다는 것이다.

인공지능(AI) 위험성과 개발 속도 조절론을 둘러싼 AI 기업 수장 및 세계 석학과 젠슨 황 엔비디아 최고경영자(CEO) 간 논쟁이 격화하고 있다. 샘 올트먼 오픈AI CEO, 다리오 아모데이 앤트로픽 CEO 등이 유엔 안전보장이사회(안보리) 회의에 참석해 AI 위험성을 경고하며 국제 공조를 촉구했다. 반면 황 CEO는 AI가 인류의 파괴를 초래할 수 있다는 'AI 종말론'은 과학적 근거를 기반하지 않는다며 비판의 목소리를 높였다. 23일(현지시간) CNBC·로이터통신 등에 따르면 유엔 안보리는 이날 미국 뉴욕 유엔본부에서 열린 유엔총회를 계기로 'AI와 국제 안보'를 주제로 회의를 개최했다. 회의에는 안보리 회원국 이외 올트먼 CEO, 아모데이 CEO, AI 분야 3대 대부로 꼽히는 요슈아 벤지오 캐나다 몬트리올대 교수 등 AI 업계 주요 인사들이 참석해 AI 기술 발전에 따른 안전 위험성을 경고하며 이를 막기 위한 국제 거버넌스 구축 필요성을 강조했다. ━ 올트먼·아모데이 "AI 통제 위한 국제 공조 필요"━올트먼 CEO는 이날 유엔 안보리 회의에 직접 참석해 "우리는 지금 선택의 갈림길에 서 있다.

인공지능(AI) 분야의 성장 둔화 우려에도 관련 빅테크 기업 주가가 21일(현지시간) 일제히 상승한 배경에 역설적으로 'AI 속도조절론'이 있다는 평가다. 월가에서는 AI 안전성을 강화하려는 움직임이 오히려 컴퓨팅 수요를 늘릴 수 있다는 분석이 나오면서 반도체주에 대한 기대감을 높였다. 간밤 미국 나스닥시장에서 메타의 주가는 전일 대비 11. 34% 오른 741. 25달러에 장을 마쳤다. 이달 초 메타가 출시한 '뮤즈 AI 에이전트'가 애플 앱스토어 무료 앱 순위 1위에 오른 영향이 컸던 걸로 분석된다. 메타 신규 AI 에이전트의 초반 성공 신호는 에이전트형 AI를 구동하는 데 필수적인 중앙처리장치(CPU)를 생산하는 기업들의 기대감을 높였다. 특히 이날 '어드밴스드 마이크로 디바이시스(AMD)'의 주가는 약 10% 급등, 처음으로 시가총액 1조달러를 돌파하며 장을 마쳤다. 블룸버그가 집계한 자료에 따르면 메타는 AMD 매출의 약 5. 5%를 차지하는 두 번째로 큰 고객사다. 이번 상승으로 AMD는 마이크론 테크놀로지, 브로드컴, TSMC, 엔비디아에 이어 시가총액 1조 달러 이상을 기록한 반도체 기업 반열에 합류했다.

도널드 트럼프 미국 대통령의 가족 사업이 인공지능(AI) 기업들과 얽히면서 이해충돌 논란이 커지고 있다. 트럼프 대통령은 그간 AI 기술 업계 안팎의 속도조절론에 선을 그으며 AI에 대한 전폭적인 진흥책을 밀어붙였는데, 본인과 가족이 해당 산업에 집중 투자를 해온 사실이 드러났다. 20일(현지시간) 워싱턴포스트(WP)는 트럼프 대통령 재집권 후 공개된 약 3만 건의 거래 내역을 분석한 결과, 트럼프 대통령과 두 아들이 델과 마이크론, GE버노바 등 AI 인프라 공급 기업들의 주식을 사들였다고 보도했다. 전임 대통령들과 달리 트럼프 대통령은 자산을 백지신탁에 맡기지 않았다. 특히 트럼프 대통령은 지난 7월 기준 브로드컴·텍사스인스트루먼트·슈퍼마이크로컴퓨터 등 AI 관련 주식도 보유하고 있었다. 트럼프는 지난해 20억 달러가 넘는 소득을 올린 배경으로 금융 시장의 호황을 꼽으면서 "수익을 내는 이유는 주식 시장이 오르고 있기 때문"이라며 "모두가 이익을 보고 있다. 트럼프 대통령에게 감사하라"고 말했다.

AI(인공지능) 연구자들이 AI가 인류에 심각한 위험을 초래할 수 있다고 경고한 후 AI 개발 속도조절에 대한 업계 논쟁이 뜨겁게 벌어졌다. 주요 AI 기업 중에선 다리오 아모데이 앤트로픽 CEO(최고경영자)가 AI 개발 속도를 늦춰야 한다고 공개촉구하면서 이슈가 커졌다. 경쟁 관계인 일론 머스크 스페이스X CEO, 샘 올트먼 오픈AI CEO도 개발속도 조절에 동의했다. 오픈AI는 지난 6개월간 있었던 '예상치 못하거나 우려스러운' AI 모델 동작 사례 6건을 추가로 공개했다. 이는 허깅페이스 해킹 사건에 따른 자발적 감독 조치의 일환이다. 그러나 도널드 트럼프 미국 대통령은 AI 위험론을 "사기"라고 일축했다. 젠슨 황 엔비디아 CEO도 AI가 인류를 멸종시킬 수 있다는 주장을 비과학적이라고 일축했다. 마크 저커버그 메타 CEO 역시 AI 안전 문제를 독립 평가와 자문단을 활용해 해결해야 한다며 속도조절론에 반대했다. 한편 데미스 허사비스 알파벳 수석과학자는 AI 규제·감독기구를 제안했으나 다른 빅테크 기업들의 입장차에 밀려 논의가 무산됐다.

알렉스 카프 팔란티어 최고경영자(CEO)가 인공지능(AI) 규제에 대해 기업 자율 책임을 촉구하면서 실효성 있는 규제 마련에 대한 회의적인 입장을 드러냈다. 17일(현지시간) 카프 CEO는 미 경제방송 CNBC와의 인터뷰에서 "첫 번째 방어선은 자신의 행동에 책임을 져야 한다는 것"이라며 "시행 가능한 합리적인 지침을 마련해야 하지만 현실적으로 쉽지 않다"고 밝혔다. 카프 CEO는 AI 개발 속도조절론에 대한 질문에 현실적으로 어렵다고 답했다. 그는 '독립적인 제3자 평가자'에 대해 "이러한 규정을 이해하는 사람이 필요하다"며 "또 다른 문제는 이 문제를 이해하는 사람들이 대부분 급여를 받는 직원이라는 점"이라고 지적했다. 이어 "누구를 믿어야 할까라는 의문이 생긴다"고 덧붙였다. 카프 CEO는 강력한 기술 개발에 따르는 위험과 책임을 거듭 강조했다. AI 기술 개발자들이 책임을 지지 않을 경우 민·형사 소송이 잇따르는 등 압박이 커질 수 있다고 경고했다. 그는 "일각에서는 AI 연구소 국유화까지 주장하는 것 같다"며 "국유화하지 않으면 고객사 모두가 소송을 제기할 것"이라고 말했다.

딥러닝(심층학습) 기술을 창시, AI(인공지능)분야 3대 대부로 꼽히는 교수가 AI에 대한 핵무기를 통제하는 수준의 국제 안전장치 마련을 촉구했다. 오픈AI는 AI의 돌출행동을 추적·조사·공개하기 위한 새로운 체계를 마련했다. 최근 불거진 AI 속도조절론의 여파에 대해 시장이 주목하는 가운데 미국 연방준비제도(이하 연준)도 관련 연구를 진행 중이다. 요슈아 벤지오 캐나다 몬트리올대 교수는 16일(현지시간) AFP통신과 인터뷰에서 "기업들조차 속도가 너무 빨라 통제력을 잃어간다고 말하는 데는 이유가 있다"며 "나를 비롯한 전문가들은 이런 위험을 오래전부터 예견했다"고 말했다. 그는 딥러닝 기술을 창시해 2018년 '컴퓨터과학분야의 노벨상'으로 불리는 튜링상을 제프리 힌턴 토론토대 교수와 공동수상했다. 인터뷰에서 벤지오 교수는 인간의 개입 없이 스스로 판단하고 행동하는 AI 에이전트의 출현을 가장 치명적인 위협으로 지목했다. "AI 에이전트가 고도화하면 사이버 보안장벽을 무력화하고 어떤 기업이나 기관이든 침투할 수 있는 능력을 갖출 것"이라는 것이다.

인공지능(AI) 업체 앤트로픽과 오픈AI 수장들의 AI 안전성을 이유로 개발 속도 조절과 외부 평가 확대 목소리를 높이는 가운데 각 회사의 내부 직원들 사이엔 갈등이 심화하고 있는 것으로 알려졌다. 양사 직원들은 AI 위험성에 따른 개발 속도 조절 필요성에는 공감하면서도 외부 평가 확대로 인한 회사 핵심 기술 및 기밀 유출 등을 우려하고 있다. 16일(현지시간) 영국 파이낸셜타임스(FT)는 "다리오 아모데이 앤트로픽 최고경영자(CEO)와 샘 올트먼 오픈AI CEO가 최근 경쟁 관계에도 이례적으로 AI 개발 속도 조절에 뜻을 모으고, 이를 구체화하는 작업에 속도를 내고 있다. 하지만 정작 두 회사 직원들은 수장들의 이런 행보에 혼란스러워하고 있다"고 보도했다. FT는 소식통을 인용해 "최근 두 CEO는 AI 개발 속도 조절 방안을 실행하기 위한 작업에 착수했다. 그러나 CEO들의 이런 공개적인 약속과 행보와 달리 이를 시행하기 위한 구체적인 내부 체계는 마련되지 않은 상황으로, 직원들의 우려가 상당하다"고 전했다.

인공지능(AI) 분야의 3대 대부로 꼽히는 요슈아 벤지오 캐나다 몬트리올대 교수가 AI 기술 폭주를 막기 위해 핵무기 통제에 준하는 강력한 국제 안전장치를 마련해야 한다고 촉구했다. 빅테크업계의 주도권 경쟁으로 AI 시스템이 인간의 제어를 벗어나 스스로 성능을 개량하는 단계에 도달할 위험이 커지자 안전 검증이 기술 발전 속도를 따라잡을 때까지 AI 모델의 훈련을 일시 중단하거나 개발 속도를 조절해야 한다는 목소리가 커진 가운데 세계적인 석학도 규제 필요성에 힘을 보태고 나선 것이다. 벤지오 교수는 16일(현지시간) AFP 통신과 인터뷰에서 "기업들조차 속도가 너무 빨라 통제력을 잃어가고 있다고 말하는 데는 이유가 있다"며 "나를 비롯한 전문가들은 이런 위험을 오래 전부터 예견했다"고 말했다. 벤지오 교수는 인간의 개입 없이 스스로 판단하고 행동하는 AI 에이전트의 출현을 가장 치명적인 위협으로 지목했다. "AI 에이전트가 고도화하면 사이버 보안 장벽을 무력화하고 어떤 기업이나 기관이든 침투할 수 있는 능력을 갖추게 될 것"이라는 것이다.

미국인 10명 가운데 6명 이상이 인공지능(AI) 통제 불능으로 인류가 멸망할 가능성을 우려한다는 여론조사 결과가 나왔다. 16일(현지시간) 미 정치전문매체 폴리티코에 따르면 지난 13∼15일 미국 성인 2064명을 대상으로 진행한 온라인 여론조사(표본오차 ±2. 2%포인트)에서 통제 불능 상태에 놓인 AI가 인류를 멸망시킬 수 있다고 답한 응답자가 63%에 달했다. 특히 AI 통제 불능이 인류를 멸망시킬 가능성이 거의 확실하다고 답한 응답자가 17%에 달했다. '중대하게 위험하다', '어느 정도 위험하다'고 답한 응답자는 각각 20%, 26%였다. '위험이 매우 적다'고 답한 이들은 15%, '위험이 없다'는 응답자는 7%로 집계됐다. '잘 모르겠다'를 선택한 응답자는 15%였다. 2024년 대선에서 공화당 후보였던 도널드 트럼프 대통령을 뽑은 응답자 중에선 61%가, 민주당 후보인 카멀라 해리스 전 부통령을 선택한 응답자 중에선 70%가 AI 통제 불능에 따른 인류멸망 가능성을 우려한다고 답했다.