[AI 속도조절론]
인공지능(AI)의 위험성 관련 개발 속도조절론 논쟁이 격화하는 가운데 오픈AI의 샘 올트먼 최고경영자(CEO)가 유엔 안전보장이사회(안보리)에 참석해 AI 안전 관련 발표에 나선다.
18일(현지시간) 로이터통신은 오픈AI 대변인을 인용해 올트먼 CEO가 다음 주 미국 뉴욕에서 열리는 유엔 총회 기간 중 안보리에서 브리핑할 예정이라고 보도했다. 15개 이사국으로 구성된 유엔 안보리 회의는 오는 23일 AI와 국제 안보를 주제로 열린다.
오픈AI 대변인은 "올트먼 CEO는 유엔 안보리 회의에 직접 발표할 예정"이라며 "그의 발표는 (AI 안전 관련) 국제적인 공조와 공통의 안전 기준 마련 필요성, 그리고 전 세계 사람들이 AI의 혜택을 누릴 수 있도록 오픈AI가 취하고 있는 조치 등에 초점이 맞춰질 것으로 예상된다"고 설명했다.
이번 회의는 지난 12일 다리오 아모데이 앤트로픽 CEO가 AI 위험성을 경고하고 AI 모델 개발 속도 조절 필요성을 주장하고, 올트먼 CEO를 비롯해 일론 머스크 스페이스X CEO 등 AI 기업 수장들이 연이어 지지 견해를 내놓는 등 AI 안전 위험성과 속도조절론 논쟁이 격화하는 상황에서 열리는 것이다. 외교 당국자에 따르면 앤트로픽 내 고위급 인사도 이번 안보리 회의에 참석할 것으로 예상되나 참석자 명단은 아직 확정되지 않았다고 한다.
올트먼 CEO는 아모데이 CEO와 경쟁 및 앙숙 관계임에도 이례적으로 그의 '속도조절론'에 동의하고 관련 협력을 진행해 특히 주목받고 있다. 외신 보도에 따르면 오픈AI·앤트로픽·구글은 AI 안전 대응 협력을 통해 AI 표준 기구 설립을 추진 중이다. 올트먼 CEO는 AI 열풍이 시작되기 전부터 AI의 위험성을 경고해 왔다. 그는 2015년 '기계 지능 1부'라는 에세이를 통해 "인간을 뛰어넘는 기계 지능의 개발은 인류의 존속에 가장 큰 위협이 될 가능성이 높다"고 우려했다.
한편 이번 유엔 안보리 회의는 9월 의장국인 프랑스의 요청으로 소집됐고, 장 노엘 바로 프랑스 유럽외무장관이 주재할 예정이다. 프랑스는 안보리 이사국에 보낸 서면에서 이번 회의에 대해 "AI 기술이 악의적인 목적으로 오용될 위험을 고려하고, 이 분야에서 안보리가 해온 기존의 역할을 바탕으로 프랑스는 국제사회 전체의 이익을 위해 AI가 안전하고 책임 있게 개발되도록 행동을 취하는 것이 시급하다는 것을 강조하고자 한다"고 설명했다.
유엔 안보리는 지난 2023년에도 AI 위험성을 주제로 회의를 진행했다. 당시 중국은 AI를 '고삐 풀린 말'이라고 표현하며 통제 불능이 돼선 안 된다고 주장했고, 미국은 AI가 검열·탄압에 사용돼선 안 된다고 했다.
