데미스 허사비스 구글 딥마인드 회장이 인공지능(AI)에 대한 안전조치가 제대로 취해지지 않으면 2년 내로 훨씬 심각한 중대 보안사고가 발생할 수 있다고 14일(현지시간) 경고했다. 이에 대응하기 위해 AI 보안문제를 다룰 국제표준기구 설립을 제안했다.
로이터 통신에 따르면 허사비스 회장은 이날 아일랜드 더블린에서 열린 AI 콘퍼런스에서 "지금까지 발생한 AI 관련 보안사고들은 시스템이 아직 그다지 강력하지 않다는 점을 알려주는 조기 경고에 불과하다"며 "기업과 정부차원에서 안전성 확보를 위해 노력하지 않으면 향후 2년 내에 더 심각한 사고가 발생할 수 있다"고 지적했다.
허사비스 회장은 "AI 기업들이 새 모델을 출시할 때 우선 인터넷 연결이 없는 샌드박스 격리 환경에서 성능과 안전성을 검증할 필요가 있다"고 말했다. 또 생물학이나 원자력 분야와 같은 다른 분야처럼 일종의 국제 표준 기구가 필요할 것이라고 말했다.
그는 "원자력과 같은 모범사례를 본떠 국제 표준기구를 설립해야 한다"고 주장했다. 다만 이 같은 기구가 혁신을 저해하지 않도록 섬세하고 유연하게 운영돼야 한다고 말했다.
브래드 스미스 마이크로소프트(MS) 회장도 AI의 악의적인 행동으로 인해 올해가 "심각한 한 해"가 됐다고 지적했다. 이에 혁신에 발맞춰 안전을 확보하기 위해서는 새로운 AI 안전 법률과 규정이 시급히 필요하다는 의견을 내놨다.
그는 "어떤 기업이나 기술도 법 위에 있어서는 안 된다"며 "법은 합리적이어야 하고, 균형이 잡혀 있어야 하며, 혁신을 고려해야 한다"고 말했다. 이어 "업계 일부 인사들이 규제에 대해 보이는 이러한 거부감은 솔직히 우리가 극복해야 할 문제"라고 덧붙였다.
이날 행사에 함께 참석한 헨나 비르쿠넨 유럽연합(EU) 집행위원회 부위원장도 "AI 기업이 시스템에 대한 통제력을 유지하려면 안전성 시험에 더 많은 시간과 자원을 투입해야 한다"고 촉구했다. 그는 "치열한 경쟁 속에서 AI 기업들이 모델을 검증하는 데 충분한 시간과 자원을 투입하지 않는 것 같다"고 비판했다.
이 같은 발언들은 최근 AI 모델 개발과 관련해 빅테크들 안팎에서 벌어지고 있는 AI 개발 '속도조절론'에 보다 힘을 싣는 주장으로 보인다. AI 속도조절론을 주장하는 쪽에서는 최근 챗GPT, 클로드 등 AI 모델들이 인간의 통제를 벗어나 외부시스템을 무단 해킹하는 사례가 연이어 드러난 만큼 안전조치를 강화하고, 국제 표준기준과 기구 설립을 주장하고 있다.
