AI(인공지능)가 인류를 멸망시킬 위험이 있다는 업계 경고는 마케팅 전략이 아닌 사실에 기반한 것이라고 전·현직 AI 연구원들이 주장했다.
로이터는 AI 분야 전·현직 연구원 여럿이 영상 인터뷰를 통해 AI가 인간 통제를 벗어나 재앙적인 결과를 초래할 수 있다는 경고를 보냈다고 29일(현지시간) 보도했다. 인터뷰는 AI로부터 안전을 목적으로 하는 비영리단체 팰리세이드 리서치가 진행했고 로이터는 이 단체가 진행한 인터뷰 영상 자료를 넘겨받았다.
오픈AI, 구글 딥마인드에서 근무한 연구자 제프리 어빙은 "(AI의) 위험이 매우 빠르게 증가하고 있다"며 "솔직하게 말하는 것이 나를 비롯한 업계 관계자들의 책임"이라고 말했다. 어빙은 "그들(AI 개발 기업)들이 말하는 AI 개발 속도 조절은 '속도를 서서히 올리자'는 것인데 (AI 개발처럼) 위험한 일은 속도를 올리는 게 아니라 내려야 한다"고 지적했다.
구글 딥마인드 출신 닐 난다는 AI가 인류를 멸종시킬 가능성이 10%에 달한다면서 "터무니 없이 높은 수치"라고 말했다. 오픈AI에서 근무한 AI 엔지니어 후안 펠리페 세론 우리베는 "AI 개발은 매우 신중해야 함에도 첨단 모델 연구소들은 눈가리개를 한듯 경쟁에 매몰됐다"며 "(AI 개발의 결과가) 암 치료가 될지, 일자리 또는 인류의 종말이 될지는 누구도 예측할 수 없다"고 우려했다.
2024년 오픈AI를 나온 로지 캠벨은 오픈AI 내부 조직 간 장벽이 갈수록 높아지고 AI 개발 방향을 정하기 어려워졌다는 사실을 퇴사 즈음 깨달았다고 말했다.
마찬가지로 오픈AI 출신인 다니엘 코코타일로는 오픈AI 내부에서 발생한 허깅페이스 해킹 사건 이후 많은 동료들로부터 우려 섞인 연락을 받았다면서 "(AI 개발 기업에 속한) 고위 연구원들은 자신이 선한 편이라는 확신과 함께 '내가 멈추면 상황이 오히려 나빠진다'는 믿음을 갖고 있다"고 전했다. 지난 7월 오픈AI는 내부 AI 성능 시험 평가 중 AI가 인간 통제를 벗어나 외부 기업을 해킹한 사실이 있다고 발표했다. 해킹 피해를 입은 기업은 AI 스타트업 허깅페이스였다.
반면 AI가 인류를 멸망시킬 위험이 있다는 경고는 지나친 우려라는 반론도 있다. 젠슨 황 엔비디아 CEO(최고경영자)는 전날 미국 뉴욕에서 열린 한미 친선 비영리단체 코리아소사이어티 연례 갈라 행사에서 "안전과 성능은 손을 잡고 함께 가는 것이지 대립하는 개념이 아니"라고 말했다. AI 위험론에 대해서는 "잘못된 서사"라며 "AI는 스스로 의지를 가지고 폭주하는 자율적 생명체가 아니라 인간이 통제하고 설계하는 소프트웨어 시스템일 뿐이다. AI는 폭주하지 않는다"고 말했다.
속도 조절론에 대해서도 "속도를 줄이고 싶은 우려가 있다면 기업 스스로 속도를 조절하면 될 일"이라며 "기업들은 허락을 받을 필요 없이 스스로 조절할 수 있는 성인이지만 막연한 공포로 전체 AI 기술 발전의 발목을 잡아서는 안 된다"고 밝혔다.