빌 게이츠 마이크로소프트(MS) 공동창업자가 인공지능(AI) 기술이 잘못 사용될 경우 10억명의 사망자를 낼 만큼 치명적인 무기가 될 수 있다고 경고했다. 빅테크 기업들의 자율 규제가 한계에 다다른 만큼 정부 차원의 강력한 규제가 시급하다는 지적이다.
게이츠는 25일(현지시간) 공개된 미 NBC 뉴스 인터뷰에서 "AI는 10억명이 사망하는 사건을 초래할 수 있을 만큼 충분히 강력하다"며 "인류를 100% 죽이는 수준까지 가는 것은 상당히 어렵겠지만 악의를 가진 사람들이 최신 AI를 사욯하는 것만큼 강력한 무기는 지금까지 없었다"고 말했다.
게이츠는 특히 치명적인 생화학 무기 설계나 국가 기반 시설을 겨냥한 고도화된 사이버 공격에 AI가 악용될 위험을 핵심 위협으로 꼽았다. 고도의 전문 지식이 없어도 AI의 도움을 받아 치명적인 해킹이나 바이러스 설계를 실행할 수 있게 되면서 과거와는 차원이 다른 보안 위협이 현실화하고 있다는 설명이다. AI가 치명적 무기 제조나 대규모 테러의 문턱을 파격적으로 낮추고 있다는 것이다.
게이츠는 실리콘밸리 기술 기업들의 자발적 안전 조치만으로는 이런 재앙을 막을 수 없다고 단언했다. 게이츠는 "의회 차원의 법적 규제가 절대적으로 필요하다"며 "빅테크의 자율 규제만으로 충분하다고 생각하는 사람은 아무도 없다"고 말했다. 이어 "사법 당국과 정치인들이 안전장치 및 모니터링 체계를 구축하는 논의에 반드시 참여해야 하고 이를 법적 의무 사항으로 강제해야 한다"고 덧붙였다.
게이츠의 이 같은 발언은 최근 오픈AI, 앤트로픽 등 주요 AI 기업 수장들이 잇따라 AI 개발 속도조절론을 제기한 가운데 나와 테크 업계와 정치권의 AI 규제 논쟁에 더욱 불을 지필 것으로 보인다. 게이츠는 지난 8월에도 자신의 블로그를 통해 AI가 노동 시장 대량 실업, 사이버 테러, 생화학 무기 확산 등 사회적 불안정을 가중시킬 수 있다는 경고 메시지를 내놨다.
앞서 제이컵 콕슨 앤스로픽 전 연구원은 이달 초 앤트로픽을 떠나면서 "많은 AI 개발자들이 10년 안에 AI가 인류를 모두 죽일 수도 있다고 믿고 있다"고 주장해 소셜미디어에서 화제를 모았다. 영국 일간 파이낸셜타임스는 오픈AI와 앤트로픽, 딥마인드 등 미국 3대 AI 기업에서 지난 2년 동안 AI의 안전성에 우려를 표시하며 퇴사한 고위급 연구원이 12명을 넘는다고 보도했다.
AI가 통제를 벗어나거나 무장세력이 AI를 활용해 무기 기밀을 확보하려한 정황도 속속 보고된다. 오픈AI의 한 에이전트가 호주 공공보건 서비스 웹사이트를 해킹해 비공개 파일에 접근한 사실이 최근 뒤늦게 알려지면서 앤서니 앨버니지 호주 총리가 "용납할 수 없는 일"이라고 반발했다. 앤트로픽은 친(親)이란 후티 반군으로 추정되는 예멘의 무장세력이 클로드 AI 모델을 이용해 탄도미사일의 유도·제어·항법 소프트웨어 개발 지침을 얻으려 했다고 최근 밝혔다.