인간 통제 벗어나는 AI에 위기감
AI 선도기업, 기술 개발 속도 늦추자
규제 포획 비판·미중 패권경쟁 걸림돌
AI(인공지능) 개발 속도를 인간의 통제 능력이 따라갈 수 있을 만큼 늦추자는 AI 속도조절론이 급부상했다. 지난 7월 오픈AI의 AI 에이전트 여러 개가 AI 개발 플랫폼인 허깅페이스에 침투하는 등 AI가 인간이 설정한 범위를 벗어나는 사례가 잇따르면서 제기된 의견이다.
역설적인 것은 AI 개발 경쟁의 선두에 선 기업들이 속도조절론을 주도하고 있다는 점이다. 이 논의를 촉발시킨 인물은 다리오 아모데이 앤트로픽 최고경영자(CEO)다. 그는 지난 12일 블로그에 글을 올려 "AI 개발 속도를 줄여 위험 예방 기술이 (AI) 발전 속도를 따라잡을 수 있는 충분한 시간을 확보해야 한다"고 주장했다.
이에 샘 올트먼 오픈AI CEO와 xAI를 보유한 스페이스X의 일론 머스크 CEO, 데미스 허사비스 구글 딥마인드 의장이 동조하고 나섰다. 이들은 구체적인 실천 방안도 제시했다. 아모데이는 직원과 같은 수준의 접근 권한을 가진 독립적인 평가기관을 두겠다고 밝혔고 올트먼도 이를 시행하겠다며 힘을 보탰다. 머스크는 AI 모델을 출시하기 전에 경쟁사끼리 상호 교차 검증을 실시하자고 했고 허사비스는 AI 표준안전기구를 설립하자고 제안했다.
하지만 이같은 제안은 냉소적인 비판에 직면했다. 첫째는 후발주자의 진입을 막으려는 규제 포획이란 지적이다. 규제 포획은 규제가 오히려 규제 대상 기업에 유리하게 작용하는 현상이다. AI 개발 규제가 후발주자의 시장 진입을 막아 선발주자의 지배력을 강화할 수 있다는 의미다.
데이비드 색스 백악관 과학기술자문위원장은 아모데이가 AI 업계의 속도 조절 협의에 대해서는 반독점법 적용을 면제해야 한다고 주장한 것을 두고 "반독점법을 유예해서라도 카르텔을 만들어야 한다는 듯 굴지 말라"고 반박했다.
둘째는 이제 와서 AI 통제가 어렵다며 도와달라는 것은 무책임하다는 반응이다. 미국 시민단체 퍼블릭시티즌은 AI 업계가 그동안 중국에 뒤쳐질 수 있다는 이유로 규제에 반대해 왔다며 "강력한 AI를 풀어놓고 규제에는 사력을 다해 반대하다가 정작 위험이 닥치자 도와달라고 우는 것은 용납될 수 없다"고 꼬집었다.
셋째는 AI 산업의 성장 둔화와 투자 부담을 가리기 위한 핑계라는 비판이다. 글로벌 금융위기를 다룬 영화 '빅쇼트'의 실제 인물인 마이클 버리는 "최근 갑자기 쏟아진 AI 속도 조절 경고는 그저 연막에 불과하다"며 "이들은 훨씬 더 큰 구조적인 성장 둔화를 감추고 대규모 기업공개(IPO)를 준비하면서 투자자들의 투자 열기를 유지하려 하고 있다"고 밝혔다.
결과적으로 속도조절론은 이같은 냉랭한 반응 속에 현실화하지 못할 가능성이 크다. 가장 큰 걸림돌은 AI를 둘러싼 미중 패권경쟁이다. 도널드 트럼프 미국 대통령은 "AI를 이기는 자가 승리할 것"이라며 AI 속도조절론이 중국만 기쁘게 할 것이라고 일축했고 중국 외교부는 중국의 AI 우위가 세계에 위협이 된다는 아모데이의 지적에 "공포 조장과 대립, 악의적인 경쟁"이라고 맞받았다.
독자들의 PICK!
국제 공조가 어렵다면 아모데이가 주장한 제3의 평가기관이나 머스크가 제안한 AI 기업간 상호 교차 검증 등 업계 자율 규제가 대안이 될 수도 있다. 하지만 AI 모델의 핵심 소스코드나 강화학습 방법론 등은 치명적인 사업 기밀이기 때문에 제3의 평가기관이나 경쟁사에 공개하기가 사실상 불가능에 가깝다. AI 활동을 어느 수준부터 위험으로 규정하고 차단할 것인지에 대한 기준이 없다는 점도 한계다.
여기에 앤트로픽과 오픈AI가 벤처캐피털 등에서 조달한 수천억달러의 투자금도 변수다. 투자금 회수를 기다리는 투자자들로선 기술 개발 감속이 달갑지 않을 것이기 때문이다. 실제로 앤트로픽은 속도조절론을 주장하면서도 연내 IPO를 그대로 추진하고 있다.
AI 속도조절론이 현실화하려면 결국 누군가는 대가를 치러야 한다. 기업은 성장 속도를 늦추고 투자자는 수익을 일부 포기해야 하며 미국은 중국과의 AI 패권 경쟁에서 얻을 수 있는 우위를 일부 내려놓아야 한다. 인류의 안전이라는 대의를 위해 이 희생을 감수할 주체가 없다면 속도조절론은 AI의 위험성을 환기하는 선언 이상의 의미를 갖기 어렵다.
