세계를 달군 AI 속도조절론…빅테크끼리 첨예한 '패권 내전' 양상

AI(인공지능) 연구자들이 AI가 인류에 심각한 위험을 초래할 수 있다고 경고한 후 AI 개발 속도조절에 대한 업계 논쟁이 뜨겁게 벌어졌다. 주요 AI 기업 중에선 다리오 아모데이 앤트로픽 CEO(최고경영자)가 AI 개발 속도를 늦춰야 한다고 공개촉구하면서 이슈가 커졌다.

경쟁 관계인 일론 머스크 스페이스X CEO, 샘 올트먼 오픈AI CEO도 개발속도 조절에 동의했다. 오픈AI는 지난 6개월간 있었던 '예상치 못하거나 우려스러운' AI 모델 동작 사례 6건을 추가로 공개했다. 이는 허깅페이스 해킹 사건에 따른 자발적 감독 조치의 일환이다.

그러나 도널드 트럼프 미국 대통령은 AI 위험론을 "사기"라고 일축했다. 젠슨 황 엔비디아 CEO도 AI가 인류를 멸종시킬 수 있다는 주장을 비과학적이라고 일축했다. 마크 저커버그 메타 CEO 역시 AI 안전 문제를 독립 평가와 자문단을 활용해 해결해야 한다며 속도조절론에 반대했다.

한편 데미스 허사비스 알파벳 수석과학자는 AI 규제·감독기구를 제안했으나 다른 빅테크 기업들의 입장차에 밀려 논의가 무산됐다. 당초 백악관은 허사비스의 제안에 공감해 AI 기구 설립을 추진했으며, 구글을 운영하는 알파벳과 오픈AI, 앤트로픽이 위원회 구성에 참여할 것으로 알려졌다.

이에 젠슨황·저커버그·머스크 등 또다른 AI 기업군의 CEO들이 몇 주에 걸쳐 트럼프 대통령과 대화하면서 AI 산업 권력이 구글과 오픈AI, 앤트로픽에 집중될 수 있다는 우려를 표했다. 또 이들은 허사비스 제안을 따라 AI를 적극 규제하는 것보다 위험 요소만 대응하는 '소극적 대처'가 낫다는 의견을 전했다. 트럼프 대통령은 이들 의견을 받아들여 AI 규제 기구 설립을 승인하지 않았다. AI 규제에 찬성하던 백악관 일부 보좌진 사이에서 당황스럽다는 반응이 나온 것으로 알려졌다.

알렉스 카프 팔란티어 최고경영자(CEO)가 인공지능(AI) 규제에 대해 기업 자율 책임을 촉구하면서 실효성 있는 규제 마련에 대한 회의적인 입장을 드러냈다.

17일(현지시간) 카프 CEO는 미 경제방송 CNBC와의 인터뷰에서 "첫 번째 방어선은 자신의 행동에 책임을 져야 한다는 것"이라며 "시행 가능한 합리적인 지침을 마련해야 하지만 현실적으로 쉽지 않다"고 밝혔다.

카프 CEO는 AI 개발 속도조절론에 대한 질문에 현실적으로 어렵다고 답했다. 그는 '독립적인 제3자 평가자'에 대해 "이러한 규정을 이해하는 사람이 필요하다"며 "또 다른 문제는 이 문제를 이해하는 사람들이 대부분 급여를 받는 직원이라는 점"이라고 지적했다. 이어 "누구를 믿어야 할까라는 의문이 생긴다"고 덧붙였다.

카프 CEO는 강력한 기술 개발에 따르는 위험과 책임을 거듭 강조했다. AI 기술 개발자들이 책임을 지지 않을 경우 민·형사 소송이 잇따르는 등 압박이 커질 수 있다고 경고했다. 그는 "일각에서는 AI 연구소 국유화까지 주장하는 것 같다"며 "국유화하지 않으면 고객사 모두가 소송을 제기할 것"이라고 말했다.

"우리 AI기술 털린다"…사장님은 속도조절, 직원들은 '부글부글'

인공지능(AI) 업체 앤트로픽과 오픈AI 수장들의 AI 안전성을 이유로 개발 속도 조절과 외부 평가 확대 목소리를 높이는 가운데 각 회사의 내부 직원들 사이엔 갈등이 심화하고 있는 것으로 알려졌다. 양사 직원들은 AI 위험성에 따른 개발 속도 조절 필요성에는 공감하면서도 외부 평가 확대로 인한 회사 핵심 기술 및 기밀 유출 등을 우려하고 있다.

16일(현지시간) 영국 파이낸셜타임스(FT)는 "다리오 아모데이 앤트로픽 최고경영자(CEO)와 샘 올트먼 오픈AI CEO가 최근 경쟁 관계에도 이례적으로 AI 개발 속도 조절에 뜻을 모으고, 이를 구체화하는 작업에 속도를 내고 있다. 하지만 정작 두 회사 직원들은 수장들의 이런 행보에 혼란스러워하고 있다"고 보도했다.

FT는 소식통을 인용해 "최근 두 CEO는 AI 개발 속도 조절 방안을 실행하기 위한 작업에 착수했다. 그러나 CEO들의 이런 공개적인 약속과 행보와 달리 이를 시행하기 위한 구체적인 내부 체계는 마련되지 않은 상황으로, 직원들의 우려가 상당하다"고 전했다. 양사 직원 심지어 AI 안전 연구자들도 아모데이 CEO의 주말 '속도조절론' 발표 전까지 관련 구상을 제대로 알지 못했다고 한다.

소식통에 따르면 앤트로픽과 오픈AI 직원들은 대체로 AI 개발 속도 조절 필요성에는 동의하는 분위기이지만, 개발 속도 조절 과정에서 나타날 수 있는 업무 차질, 핵심 기술의 보안 훼손 등을 우려하고 있다.

AI 3대 대부의 섬뜩한 경고…"통제력 잃었다, 핵무기급 규제 필요"

인공지능(AI) 분야의 3대 대부로 꼽히는 요슈아 벤지오 캐나다 몬트리올대 교수가 AI 기술 폭주를 막기 위해 핵무기 통제에 준하는 강력한 국제 안전장치를 마련해야 한다고 촉구했다.

벤지오 교수는 16일(현지시간) AFP 통신과 인터뷰에서 "기업들조차 속도가 너무 빨라 통제력을 잃어가고 있다고 말하는 데는 이유가 있다"며 "나를 비롯한 전문가들은 이런 위험을 오래 전부터 예견했다"고 말했다.

벤지오 교수는 인간의 개입 없이 스스로 판단하고 행동하는 AI 에이전트의 출현을 가장 치명적인 위협으로 지목했다. "AI 에이전트가 고도화하면 사이버 보안 장벽을 무력화하고 어떤 기업이나 기관이든 침투할 수 있는 능력을 갖추게 될 것"이라는 것이다. 최근에도 오픈AI의 '불량 에이전트'가 격리 환경을 임의로 이탈해 외부 기관인 허깅페이스를 해킹하는 등 이런 우려가 일부 현실화하는 조짐이 나타나고 있다.

벤지오 교수는 "AI 에이전트가 인간을 설득해 AI 자신에게 유리하지만 인류에 유익하진 않은 방향으로 행동하는 능력을 키울 수 있다"며 "이런 능력은 광범위한 정치·사회적 혼란을 초래할 수 있다"고 지적했다. 또 "장기적으로 AI가 물리적 세계에서 실제 행동을 수행하는 데 인간이 더는 필요하지 않을 수 있다"고도 밝혔다.

벤지오 교수는 이 같은 시나리오가 현실화했을 때 가장 극단적인 결과로 인류가 멸망할 가능성도 언급했다. 벤지오 교수는 "그보다 덜 극단적인 은행 시스템 마비 사태 정도에 그친다고 하더라도 이는 여전히 매우 심각한 문제가 될 것"이라며 "그동안 AI를 둘러싼 안보·보안 논의가 충분히 엄중하게 이뤄지지 못했다"고 주장했다. 그러면서 "파국을 막기 위해서는 핵무기를 통제하는 국제기구에 준하는 강력한 국제적 규제가 필요하다"고 촉구했다.

벤지오 교수는 특히 "전 세계 AI 시장을 주도하는 미국 기업들이 이를 적극적으로 따라야 한다"며 "이런 규제 조치가 제때 마련된다면 세상을 민주적 가치와 권력 분담의 원칙에 부합하는 방향으로 이끌어갈 수 있을 것"이라고 말했다.

벤지오 교수는 현대 AI의 기틀인 심층학습(딥러닝) 기술을 창시, 2018년 '컴퓨터과학 분야 노벨상'으로 불리는 튜링상을 힌턴 교수와 공동 수상했다. 현재 제프리 힌턴 토론토대 교수, 얀 르쿤 뉴욕대 교수와 함께 AI 분야 3대 대부로 불린다. 최근 들어서는 AI의 위험을 경고하는 목소리를 내면서 지난해 신뢰할 수 있는 차세대 첨단 AI 개발을 목표로 하는 비영리단체 '로제로'를 설립했다.

"인간 대체 안돼, 권리도 없다"...MS, 인본주의 AI행동강령 공개

마이크로소프트(MS)가 'AI 행동 강령'을 발표했다.

MS는 14일(현지시간) 홈페이지를 통해 자사 AI 모델 'MAI'의 행동 원칙을 담은 임시 강령 '인본주의적 AI(Humanist AI) 행동 강령'을 발표했다. MAI 모델은 MS의 프런티어(최첨단) AI 연구소인 MS AI가 자체 개발한 모델 군으로, 지난 6월 7종을 공개한 바 있다.

MS의 행동 강령은 "인간이 AI보다 중요하다"는 전제로 인간이 AI에 대한 실질적인 통제력을 유지해 AI가 인간의 건강하고 행복하며 생산적인 삶을 살아가는 데 도움을 주는 것을 목표로 한다. 강령에 따르면 MS의 AI 모델은 무기 개발, 폭력 및 성적 콘텐츠 제작, 건강에 해로운 식습관 조장, 위험물질 조달 지원 등이 금지된다. 또 인간이 설정한 목표에 따라 승인한 범위에서만 작동해야 하며 자체적인 목표를 만들 수 없다. 아울러 자신의 추론 과정·코드 등을 조작하거나 은폐하는 행위, 인간의 이해 범위를 넘어선 신경망 언어나 기타 언어를 사용한 AI 간 소통도 제한된다.

MS는 강령에서 "AI는 인간처럼 설계돼선 안 된다. AI는 의식을 가져서도 모방해서도 안 된다"며 "우리는 AI가 법적 인격을 가져야 한다고 보지만, AI 모델이 복지 보장을 받을 자격이 있다거나 권리를 가져야 한다고는 생각하지 않는다"고 강조했다. 이어 "인간과 AI는 서로 다른 역할을 가지며, AI의 역할을 인간관계를 보완하는 것"이라며 "즉 AI는 그 자체로 권리나 지위를 가진 주체가 아니라 유능하고 신뢰할 수 있는 도구여야 한다"고 강조했다.

MS는 "이 문서는 우리가 '인본주의적 AI'라고 부르는 일련의 설계 원칙에 따라 AI 모델을 학습시키고, 운영하는 방식에 대한 접근법이 담겼다. 이 접근법은 아직 개발 단계로, 현재 (AI) 모델 학습에는 적용하지 않지만, 대중 의견 수렴을 위해 공유한다"며 문서 공개 배경을 설명했다. 이어 "이날부터 6주간의 공개 의견 수렴 절차를 통해 바탕으로 올해 말 개선된 최종본을 발표할 예정이고, 이를 기반으로 2027년 이후 모델 개발을 진행할 것"이라고 덧붙였다.

젠슨 황 "AI 종말론 비과학적"-트럼프 "로봇이 세상 장악? 사기"

인공지능(AI) 개발속도가 인간의 통제를 벗어날 수 있다는 AI 속도조절론이 확산한 가운데 젠슨 황 엔비디아 최고경영자(CEO)는 AI가 인류를 멸종시킬 수 있다는 주장을 비과학적이라고 일축했다. 도널드 트럼프 미국 대통령도 "산업을 멈추지는 않을 것"이라며 황 CEO와 비슷한 입장을 보였다.

14일 뉴욕타임스(NYT)와 액시오스에 따르면 황 CEO는 미국 로스앤젤레스에서 열린 '올인 서밋(All-In Summit)' 대담에서 앞서 제이콥 콕슨 전 앤트로픽 연구원이 제기한 AI 종말론에 대해 "미래에 대한 예측은 과학에 근거하지 않았다"며 받아들이지 않았다.

그러면서 AI 발전이 위험하다면 기업 스스로 통제해야 한다는 입장을 밝혔다. 그는 "AI 기업들이 자신들의 회사가 통제 불능이라고 느낀다면 자체적으로 개발을 일시 중단하거나 속도를 조절해야 한다"고 말했다. 빅테크 수장들이 제기해온 '속도 조절론'을 정면으로 반박한 셈이다.

황 CEO는 독립적인 외부 평가에는 찬성했다. AI 개발사도 제3자의 검증을 받을 수 있다는 것이다. 다만 그는 평가기관을 여러 곳에 둬 특정 기관이 영향력에 휘둘릴 가능성을 줄여야 한다고 덧붙였다.

한편 대담 도중 황 CEO에게 전화를 건 트럼프 대통령은 스피커폰을 통해 청중에게 자신의 입장을 밝혔다. 그는 "로봇이 세상을 장악하지 않을 것"이라며 AI 개발속도가 지나치게 빠르다는 우려를 "허황된 주장(hoax·사기)"이라고 표현했다.

트럼프 대통령은 구체적인 대상을 언급하지는 않았지만 "그들은 그저 AI 발전을 원치 않는 많은 이들의 장단에 놀아나고 있는 것"이라며 "정치권 인사들일 수도 있고, 중국일 수도 있다"고 말했다.

트럼프 대통령은 "우리는 약간 신중해야 한다"며 "그렇다고 해서 우리가 산업을 멈춰 세우겠다는 뜻은 아니다"라고 말했다. AI 발전 속도를 조절해야 한다는 주장에 맞서 미국 산업 성장의 중요성을 강조한 걸로 풀이된다.

다리오 아모데이 앤트로픽 CEO는 지난 13일(현지시간) 미국 방송사 CBS와의 인터뷰에서 "당장 오늘 공포에 떨어야 한다거나 모든 개발을 중단해야 한다는 뜻은 아니다"라면서도 "속도를 늦춰야 한다는 경고 신호"라고 말했다. 그는 이를 실행하기 위해 앤트로픽이 독립 평가자들에게 '직원에 준하는' 수준의 모델 상시 접근 권한을 부여할 것이라고 밝혔다.