[AI 속도조절론]
올트먼·아모데이, 안보리서 AI 안전 위한 국제 공조 촉구…
젠슨 황 "AI 종말론, 공포만 유발…이런 예측 그만하라"
인공지능(AI) 위험성과 개발 속도 조절론을 둘러싼 AI 기업 수장 및 세계 석학과 젠슨 황 엔비디아 최고경영자(CEO) 간 논쟁이 격화하고 있다. 샘 올트먼 오픈AI CEO, 다리오 아모데이 앤트로픽 CEO 등이 유엔 안전보장이사회(안보리) 회의에 참석해 AI 위험성을 경고하며 국제 공조를 촉구했다. 반면 황 CEO는 AI가 인류의 파괴를 초래할 수 있다는 'AI 종말론'은 과학적 근거를 기반하지 않는다며 비판의 목소리를 높였다.
23일(현지시간) CNBC·로이터통신 등에 따르면 유엔 안보리는 이날 미국 뉴욕 유엔본부에서 열린 유엔총회를 계기로 'AI와 국제 안보'를 주제로 회의를 개최했다. 회의에는 안보리 회원국 이외 올트먼 CEO, 아모데이 CEO, AI 분야 3대 대부로 꼽히는 요슈아 벤지오 캐나다 몬트리올대 교수 등 AI 업계 주요 인사들이 참석해 AI 기술 발전에 따른 안전 위험성을 경고하며 이를 막기 위한 국제 거버넌스 구축 필요성을 강조했다.
올트먼 CEO는 이날 유엔 안보리 회의에 직접 참석해 "우리는 지금 선택의 갈림길에 서 있다. AI가 창의성과 (기술) 발견의 새로운 르네상스에 가까워질 수도 있고, 격변과 혼란의 새로운 산업혁명에 가까워질 수도 있다"며 "인류 역사에는 경쟁 관계에 있고 서로를 그다지 좋아하지 않는 국가들조차 강력한 신기술 앞에서는 공동의 이익과 집단적 선을 위해 손을 잡았던 때가 있었다. 지금이 바로 그 순간이어야 한다고 믿는다"고 말했다. 이어 "AI가 민주적으로 관리되기 위해선 중요한 결정들이 샌프란시스코의 일부 기업에 의해 결정돼서는 안 된다. 그 결정들은 민주적 절차와 국민에게 책임을 다하는 정부를 통해 형성되어야 한다"며 국제사회 중심의 AI 감독 국제기구 설립을 촉구했다.
아모데이 CEO는 화상 연설을 통해 "AI를 잘못 관리하면 인류 전체에 위협이 될 수도 있다고 믿는다. 위험 관리는 궁극적으로 한 기업의 역량을 넘어 업계 전반과 전 세계의 문제"라며 안보리 차원에서 'AI를 이용한 생물학 무기 제조 금지' 등 구체적인 합의부터 추진해야 한다고 주장했다. 이어 AI 개발 속도에 맞춘 평가·검증 시스템을 구축하고, 통제력 상실 및 오용 위험 테스트를 위한 국제적 표준과 중대 사고 알림 시스템이 필요하다고 강조했다.
벤지오 교수는 최근 오픈AI, 앤트로픽 등의 AI 에이전트들이 인간의 통제에서 벗어난 '범죄'로 여겨질 만한 행동들을 했다며 "기업들조차 자사 제품이 파국적인 위험을 초래할 수 있음을 인정하면서도 기술적 해결책은 제시하지 못하고 있다"고 지적했다. 이어 AI 관련 사고에 대한 공통된 정의·보고 체계 마련, 공공의 선을 위한 국제 기술 개발 방안 논의, 국제 합의를 기반으로 한 설계 단계부터 안전성을 보장하는 AI 기술적 해결책 마련 등이 필요하다고 강조했다.
황 CEO는 현재 거론되는 'AI 종말론'이 지나치다며 이런 경고는 산업, 사회, 정부 등 그 누구에게도 도움이 되지 않는다는 기존 입장을 재확인했다. 그는 이날 뉴욕타임스(NYT)가 공개한 '에즈라 클라인 쇼' 인터뷰에서 'AI 대부' 불리는 제프리 힌턴 토론토대 명예교수의 'AI 종말론'을 공개 비판했다. 2024년 노벨 물리학상을 받은 힌턴 교수는 최근 공개석상에서 AI로 인한 사회 붕괴 확률이 10~20% 정도 될 것이라고 여러 차례 경고한 바 있다.
독자들의 PICK!
황 CEO는 힌턴 교수의 발언에 대해 "무책임하다"며 "10%라는 확률은 과학에 기반한 것이 아니다. 단지 과학자가 말했다고 해서 과학이 되는 것은 아니다. 그런 예측은 해롭다. 그만 좀 하라"고 날을 세웠다. 그는 "경종을 울린다고 해서 그게 사회에 도움이 된다고 생각해서는 안 된다"며 "우리 모두 좀 더 현명해지고, 성숙해지고, 객관적 증거와 과학에 기반해야 한다"고 지적했다.
한편 미국은 이날 안보리 회의에서 AI에 대한 국제 규제에 반대한다는 입장을 내놨다. 도널드 트럼프 미국 대통령은 앞서 'AI 종말론'을 사기극이라고 지적하며 중국과의 기술 패권 경쟁을 이유로 AI 업계의 속도조절론에 반대했다. 마이클 크라치오스 백악관 과학기술정책실장은 회의에서 "우리의 주 책무는 '슈퍼지능'(SI)의 발전이 시민들에게 혜택을 주고 자유와 삶의 방식을 보호하도록 보장하는 것"이라며 "(AI) 추가 개발을 중단하거나 새로운 국제 거버넌스 체제로 이를 제약해야 할 이유는 되지 않는다"고 말했다.
