하사비스 전 구글 CEO "AI에도 IAEA 필요"…트럼프 행정부와 감독기구 논의

최근 구글 딥마인드 최고경영자(CEO)에서 물러나 범용 인공지능(AGI) 개발에 집중하기로 한 데미스 하사비스가 트럼프 행정부와 인공지능(AI) 감독기구 설립을 논의한 것으로 알려졌다.

12일(현지시간) 월스트리트저널(WSJ)에 따르면 데미스 하사비스 전 CEO는 사임 직전 트럼프 행정부 관계자 및 다른 AI 연구소 대표들과 독립적인 AI 안전 기구 설립에 대해 논의했다.

하사비스 전 CEO의 구상에 따르면 새 기구는 AI 업계 자금으로 국제 표준 기구를 설립·운영하고 AI 모델 출시 전 안전성을 평가하는 구조가 될 것으로 보인다. 미국 에너지부 등 연방 기관 산하 국립 연구소들은 새 기구와 협력하는 방식으로 국가 안보와 관련된 분야에서 AI 모델을 테스트한다. '프론티어급' 자격에 대한 기준도 새 기구가 부여한다.

이 자리에서 새로운 기구는 핵안전·비확산 기준 준수 여부를 국제적으로 점검·감독하는 국제원자력기구(IAEA)에 비유됐다. 논의에는 스콧 베선트 미 재무장관, 마이클 크라치오스 백악관 과학기술정책실장 등이 참여한 것으로 전해졌다. 하사비스 전 CEO는 지난달 X를 통해 미국 금융산업규제청(FINRA)이 증권사를 감독하고 업계 자금으로 운용되는 등 자율 규제 구조를 예시로 들기도 했다.

구글 대변인은 이에 대해 "첨단 AI 모델의 안전을 확보하는 것은 사회에 매우 중요하다"며 "하사비스가 이러한 목표 달성에 기여할 수 있는 독보적인 위치에 있다"고 밝혔다. 하사비스 전 CEO는 구글 딥마인드 의장, 알파벳 과학 책임자로 부임한 후 구글에서 과학적 혁신과 AGI의 미래를 설계하는 데 집중하겠다고 밝혔다.

AGI는 사람과 비슷한 수준의 지능을 갖고 스스로 학습하고 해결하는 인공지능을 일컫는다. 다만 최근 AI 해킹 사건이 잇따르면서 최첨단 AI 모델에 대한 위험 부담이 업계를 넘어 사회 전반에 퍼지고 있다. 베선트 장관은 "앤트로픽의 미소스와 같은 최근 모델들이 금융 시스템에 사이버 위협을 가할 수 있다"고 경고했다.

이번 논의는 트럼프 행정부가 주요 빅테크들과 AI표준을 마련하려는 노력의 연장선이기도 하다. 백악관은 지난 6월 신규 모델 출시 전에 기업들이 따라야 할 '자율규제표준' 마련을 위해 오픈AI·앤트로픽·구글 등 AI 기업들과 막바지 협상을 진행했다. 이때 규제 대상이 되는 '프런티어 모델'에 대한 기준과 함께 최신 기술에 따른 위험성과 접근 범위 등에 대한 내용을 논의해왔다.

앞서 기업 간 AI 경쟁이 국가간 안보 패권 다툼으로 번지면서 독립적인 규제 기구 필요성이 대두됐다. 도널드 트럼프 미국 대통령은 안보 우려를 이유로 앤트로픽의 프론티어급 AI 모델 수출에 제동을 걸었고 AI기업들이 규제에 대한 명확한 지침을 요구하고 나서면서 민관이 AI 표준 마련에 머리를 맞대고 있는 상황이다.

샘 올트먼 오픈AI CEO는 지난달 AI에 대한 표준을 정하고 관리 감독을 제공하기 위한 '미국 주도의 국제 포럼'을 제안하기도 했다. 또 앤트로픽은 개발 속도를 늦추고 규정 준수 여부를 검증하는 글로벌 협약을 지지했다.