"AI 생물학 무기, 코로나보다 위험"…빌 게이츠, 美에 규제 촉구

빌 게이츠 마이크로소프트(MS) 공동 창업자가 도널드 트럼프 미국 행정부가 국제사회의 '인공지능(AI) 위험' 대비 노력에 걸림돌이 되고 있다고 비판하며 AI가 코로나19보다 훨씬 심각한 팬데믹(세계적 대유행)을 일으키는 데 악용될 수 있다고 경고했다.

게이츠는 4일(현지시간) 파이낸셜타임스(FT)가 주최한 '미래의 AI 서밋'(Future of AI Summit)에서 현재 AI 모델의 역량을 긍정적인 잠재력과 부정적인 잠재력을 아무리 강조해도 지나치지 않을 정도로 "놀라운 수준"이라고 평가하며 AI 위험성 대응 필요성을 강조했다.

게이츠는 AI 도구를 이용해 생물학 무기를 만들거나 사회 전반의 사이버 보안 취약점을 공격하는 악의적 행위자를 가장 시급한 위험으로 분류했다. 특히 개발자들이 자유롭게 이용할 수 있는 이른바 '오픈 모델' 중 일부는 안전장치와 모니터링(감시) 기능을 제거할 수 있어 위험성이 크다고 지적했다.

그는 "AI가 연루된 생물학적 보안 사고가 발생하면 그 피해 규모는 코로나19 팬데믹 때보다 훨씬 클 수 있다"고 우려했다. 호흡기 감염병 코로나19는 지난 2019년 말 중국 우한에서 처음 확인돼 전 세계로 확산했다. 2020~2021년 코로나19 팬데믹 사망자 수는 약 1500만명으로 추산된다.

게이츠는 AI가 오용되거나 인간의 통제를 벗어나 재앙적인 결과를 초래할 수 있다고 줄곧 경고해 온 주요 기술업계 인사 중 한 명으로, AI가 악용되면 인구 10억명이 사망하고, 대규모 일자리 혼란이 발생할 수 있다고 경고한 바 있다.

게이츠는 미국 주도의 AI 위험 대응 필요성에 목소리를 높였다. 그는 "미국이 참여하지 않는다면 행동에 나서도 별다른 의미가 없다. 사실상 진전이 가로막힌 상황"이라며 "문제는 미국이 태도를 바꾸기 전에 얼마나 많은 악성 사건이 발생해야 하느냐는 것"이라고 말했다.

그러면서 트럼프 행정부를 겨냥해 AI 모델의 내부 안전장치와 감독·감시 수준을 평가할 기준을 마련할 것을 촉구했다. 또 사이버 보안 취약점을 해결하고 AI를 통해 확산할 수 있는 감염병을 조기에 포착하기 위한 국제 공조도 주도해야 한다며 이를 위해 공기와 하수, 혈액 등을 대상으로 한 대규모 감시 체제를 구축할 필요가 있다고 강조했다.

게이츠는 기업 자율 규제만으로는 AI 위험 문제를 해결할 수 없다며 "여러 기업이 (규제에) 관여하는 순간, 이 문제를 해결할 수 있는 유일한 주체는 정부가 된다"고 주장했다.

트럼프 대통령은 AI가 인류를 위협할 수 있다는 경고를 '허위 주장'으로 일축하며 정부의 규제 강화에 반대해 왔다. 지난 9월에는 AI에 필요한 유일한 안전장치는 '강력하고 똑똑한 대통령'이라며 기업의 자율 규제를 강조했고, 규제 강화가 중국에만 이익을 줄 것이라고 주장하기도 했다. 특히 G20(주요 20개국)의 AI 가이드라인 마련 시도를 '세계주의적 음모'라고 폄훼하며, 업계의 AI 자율 규제를 선호한다.

한편 게이츠는 AI 기술 발전 속도와 관련 오픈AI와 앤트로픽이 올해 새로운 AI 모델을 출시하고, 내년에도 각각 두 차례의 주요 모델을 선보일 것으로 예상하며 AI 위험 우려가 심화할 것으로 내다봤다. 그는 "AI 모델 자체가 통제 불능 상태에 빠지는 문제가 머지않아 심각한 우려로 떠오를 것이고, 조만간 출시될 차기 모델에서 이런 문제가 나타날 가능성이 있다"며 "이를 위해 정부는 새로운 모델에 대한 안전장치 마련과 제3자 감독 및 감시를 강화해야 한다"고 강조했다.