젠슨 황 엔비디아 최고경영자(CEO)가 28일(현지시간) 인공지능(AI)에 대한 통제력을 안전하게 확보하기 위해 개발속도를 조절하자는 문제 제기를 "잘못된 서사"라고 정면으로 반박했다. AI의 위험성을 줄이기 위해서라도 개발 속도를 늦출 것이 아니라 오히려 AI 안전 기술 연구와 모델 발전을 가속화해야 한다는 주장이다.
황 CEO는 이날 미국 뉴욕에서 열린 한미 친선 비영리단체 코리아소사이어티 연례 갈라 행사에서 밴 플리트 상을 수상한 뒤 대담과 국내외 언론 간담회를 통해 "안전과 성능은 손을 잡고 함께 가는 것이지 대립하는 개념이 아니다"라며 이같이 밝혔다.
황 CEO의 이 같은 언급은 최근 샘 알트먼 오픈AI CEO, 다리오 아모데이 앤트로픽 CEO 등이 재앙적 리스크를 고려해 AI의 발전 속도를 제어해야 한다고 잇따라 주장한 가운데 나왔다.
황 CEO는 AI가 스스로 통제력을 잃고 폭주할 것이라는 세간의 공포에 대해 "AI는 스스로 의지를 가지고 폭주하는 자율적 생명체가 아니라 인간이 통제하고 설계하는 소프트웨어 시스템일 뿐"이라며 "AI는 폭주하지 않는다"고 단언했다.
황 CEO는 오히려 프론티어 AI 모델의 빠른 발전이야말로 AI를 더 안전하게 만드는 유일한 원동력이라고 목소리를 높였다. 그는 "ChatGPT가 처음 나왔을 때 발생했던 심각한 환각 현상이 오늘날 얼마나 줄어들었는지 보라"며 "진실에 기반하지 않은 AI야말로 안전하지 않은 AI인데 이 환각을 줄일 수 있었던 원동력이 바로 프론티어 AI의 가속화된 발전"이라고 지적했다. AI의 성능을 가속하는 것이 곧 안전성을 높이는 길이라는 의미다.
황 CEO는 자동차 산업의 발전사를 예로 들어 "100년 전 자동차보다 오늘날의 현대자동차나 최신 비행기가 훨씬 안전하다"며 "자동 제동 시스템, 차선 유지, 360도 에어백 등은 성능 향상인 동시에 안전장치로 두 개념은 손을 잡고 함께 간다"고 주장했다.
속도 조절론에 대해서도 "속도를 줄이고 싶은 우려가 있다면 기업 스스로 속도를 조절하면 될 일"이라며 "기업들은 허락을 받을 필요 없이 스스로 조절할 수 있는 성인이지만 막연한 공포로 전체 AI 기술 발전의 발목을 잡아서는 안 된다"고 말했다.
황 CEO는 또 막연한 규제론 대신 실질적·공학적 안전 솔루션으로 격리 샌드박스 시스템인 '오픈쉘'과 '오픈에이전트'를 제시했다. 오픈쉘은 AI가 파일 시스템 무단 침입이나 네트워크 접근 등 승인되지 않은 행동을 하지 못하도록 차단하는 일종의 방어막 기술이다.
황 CEO는 "마이크로소프트, 스페이스X, 앤트로픽, IBM, 팔란티어 등 수많은 글로벌 테크 기업들이 오픈쉘 채택에 뜻을 모았다"며 "사람들을 겁주는 데 시간을 보낼 것이 아니라 실제로 AI를 안전하게 통제할 수 있는 공학적 기술을 만드는 데 집중해야 한다"고 말했다. 또 "업계가 먼저 높은 수준의 안전·신뢰 표준을 마련하고 이를 바탕으로 정부를 초청해 법제화하는 것이 가장 바람직한 수순"이라고 제안했다.
