트럼프, 빅테크 수장들과 'AI 안전 백악관 합의' 서명·공개

도널드 트럼프 미국 대통령이 29일(현지시간) 글로벌 빅테크 수장들과 함께 서명한 AI(인공지능) 안전 및 데이터센터 구축에 관한 자율 합의서를 공개했다.

이날 트럼프 대통령의 개인 소셜미디어인 트루스소셜에 올라온 '슈퍼지능(SI)에 대한 백악관 합의'에 따르면 기업들은 "모든 기업이 자사의 기술을 안전하게 개발하고 고객과 대중의 신뢰를 구축하는 방식으로 발전시킬 책임이 있다고 믿는다"는 내용에 서명했다.

해당 합의서에는 트럼프 대통령과 구글, 앤트로픽, 메타, 오픈AI, 소셜 미디어 플랫폼 엑스(X·옛 트위터), 엔비디아 등 주요 AI 관련 기업의 경영진이 서명했다.

구체적으로 각 기업은 기타 예방 조치 외에도 4단계의 통제 및 감독 시스템을 구축하기로 합의했다. 먼저 사이버 보안, 생물 보안, 화학적 위협 등의 영역에서 의도하지 않은 방식으로 해킹을 하거나 기술 시스템에 접근하지 않도록 보장하기 위해 AI 모델의 학습 및 배포 과정에서 그 능력과 정렬 상태를 모니터링할 내부 통제를 구축한다.

둘째로 모든 통제, 모니터링, 감지 기능이 의도한 대로 작동하는지 확인하고 발견된 문제를 해결하도록 보장하기 위해 내부 팀에 해당 권한을 부여한다.

셋째로 통제, 모니터링, 감지가 의도한 대로 작동하고 있는지에 대해 독립적인 평가를 수행할 독립된 외부 감사자 또는 평가자와 협력한다.

마지막으로 통제 시스템을 운영하는 팀, 내부 및 외부 감사자 및 평가자로부터 감독을 받고 보고를 받으며 문제가 확실히 해결되도록 보장하기 위해 이사회 산하에 독립 위원회를 지정한다.

합의서는 "이러한 단계들을 거쳐 종합적으로 각 기업과 고객, 그리고 대중에게 해당 기술이 의도한 대로 안전하게 작동하고 있다는 신뢰를 주게 될 것"이라고 설명했다.

더불어 참여 기업들은 합의된 내용에 따라 시스템의 안전성을 높이기 위한 표준과 모범 사례를 확립하고자 정기적으로 모일 예정이다. 기업들은 "통제와 감독 기구를 구현하는 것이 기업들에 의무화되는지 여부와 관계없이 모든 사람을 위한 안전한 미래를 보장하는 데 매우 중요하다고 믿으며 각 기업은 이를 실행할 것을 약속한다"는 내용에 합의했다.