[선데이 모닝 인사이트] 마탄 초레브 랜드연구소 선임연구원·조엘 프레드 랜드연구소 AGI 수석 엔지니어 - 포린 어페어스 기고문 '미국은 AI에 대해 최악의 상황을 가정해야 한다'
범용인공지능(AGI, 인간 수준의 지능을 갖춘 인공지능) 시대에 나타날 새로운 안보 위협에 선제적으로 대비해야 한다는 주장이 나왔다.
마탄 초레브 랜드연구소 선임연구원과 조엘 프레드 랜드연구소 AGI 수석 엔지니어는 최근 '미국은 AI에 대해 최악의 상황을 가정해야 한다'(America Should Assume the Worst About AI)는 제목의 포린 어페어스 기고문에서 " AGI 시대는 과거보다 훨씬 더 큰 혼란과 도전에 직면할 수 있다"며 "안보 책임자들은 AGI가 초래할 변혁을 파악하고 다층화된 국제질서와 기술 생태계를 고려한 복합적인 국가 안보 전략을 수립해야 한다"고 주장했다.
저자들은 AGI 시대 안보 위협은 핵무기 경쟁 시대와 다른 양상으로 펼쳐질 것으로 예상했다. 핵무기 시대엔 미국 정부가 기술을 완전히 통제하고 있었고 경쟁자가 등장하기까지 안보 정책의 틀을 마련할 여유가 있었다. 하지만 AGI 시대에는 민간 기업이 개발을 주도하고, 경쟁자인 중국은 이미 미국과 대등한 기술 수준에 도달했다.
이들은 기존 군사력 위주 안보 위협과 다른 다층적인 안보 위협이 확산될 거란 전망도 제시했다. 인간보다 복잡한 인지 작업 수행이 가능한 AGI 기술이 확산될 경우 금융기관, 민간기업, 정부기관의 핵심 인프라와 시스템까지 동시에 마비시키는 초대형 사이버 공격이 가능해진다. 그러나 공격 주체가 누구인지 규명하기 불가능하고 정부 차원의 대응은 무력할 수밖에 없다. AGI가 생성하는 대규모 허위정보는 정부와 기업의 신뢰성을 추락시키고 사회적 혼란과 갈등을 가중시킬 수 있다.
AGI 시대 안보 위협은 복잡한 지정학적 갈등과 전략적 딜레마를 초래할 수 있다는 분석이다. 예를 들어 중국이 AGI를 통해 미국 핵심 인프라의 취약점을 빠르게 식별하고 악용하는 능력을 확보할 경우 미중 간 군사적 충돌 위기는 고조될 수밖에 없다. 반면 테러리스트가 AGI를 활용할 가능성이 커질 경우 미국과 중국은 이를 억제하기 위해 협력해야 하는 상황이 펼쳐질 수 있다. 이에 대해 저자들은 "AGI 시대 국가 안보는 단순한 경쟁 구도를 넘어 경쟁과 협력이라는 상충된 전략을 동시에 관리해야 하는 딜레마에 직면할 것"이라고 내다봤다.
저자들은 AGI 시대에 펼쳐질 최악의 시나리오에 대비하기 위해선 핵심 인프라의 사이버 방어 능력을 강화해야 한다고 제안했다. 이를 위해 잠재적 AGI 안보 위협에 대한 면밀한 평가와 분석이 선행돼야 하고, 특히 정부기관은 AGI 관련 새로운 기술에 대한 깊은 이해가 필요하다고 조언했다. 또 AGI 시대 복잡한 안보 위협은 개별 정부가 단독으로 대응할 수 없기 때문에 민간이나 다른 국가들과의 협력도 중요하다고 강조했다.
독자들의 PICK!
AGI 안보 위협에 대한 효과적 대응 방안으로는 △민관 협력과 즉시 실행 가능한 대응 조치 마련 △새로운 위협을 반영한 비상 대응 매뉴얼 구축 △AGI 핵심 역량에 대한 집중 투자 △조기 경보 시스템과 위기 시 대안 체계 마련 등을 제시했다.
저자들은 "AGI의 잠재적 위협을 무시하는 국가 안보 전략은 곧 무의미하고 기존의 경험만으로는 대응할 수 없다"면서 "정책결정자들은 새로운 국가 안보의 위협이 현실화될 가능성에 대해 책임감 있게 대비해야 한다"고 말했다.
