"인공지능(AI)이 인류를 멸망시킬 수 있다."
"내년 말쯤에는 통제 불가능한 상황이 찾아올 수 있다."
AI 업계 내부에서 섬뜩한 경고가 잇따르면서 실리콘밸리와 워싱턴 정가의 기류 변화가 감지된다. 오픈AI가 최첨단 AI 개발 속도 조절을 검토하는 가운데 미국 정가에서도 고도화된 AI 모델의 잠재적 위험을 관리하기 위한 규제 논의가 급부상하는 모양새다.
10일(현지시간) 블룸버그통신에 따르면 올트먼 CEO는 이번 주 사내 회의에서 AI 개발 속도를 늦출 의향을 나타냈다. 한 소식통은 다른 AI 기업들의 동참 가능성도 거론됐으나 일부 기업은 이에 동의하지 않을 수 있다고 분위기를 전했다. 앞서 오픈AI의 최고 과학자 야쿠브 파초키 역시 "AI의 급속한 발전이 가져올 결과에 대해 아무도 대비하고 있지 않다는 점이 우려스럽다"면서 AI 개발자들이 개발 속도를 조절하고 정부가 규제를 마련해야 한다고 촉구한 바 있다.
그동안 AI 산업 제재에 미온적이었던 미국 의회에서도 규제안 마련을 촉구하는 목소리가 커지고 있다. 월스트리트저널(WSJ)은 오는 11월 중간선거에서 민주당이 다수당을 차지할 경우 AI를 전담하는 특별위원회를 설치하는 방안을 검토 중이라고 보도했다. 공화당 소속 테드 크루즈 상원의원은 이날 ABC 방송에 출연해 AI의 "재앙적 위험"을 규제하기 위한 법안을 마련 중임을 밝혔다. 민주당 소속 로 칸나 하원의원은 10일 AI 전담 연방 규제기관 신설을 주장하며, 위험 행동을 보이는 AI 시스템을 강제로 중단시키는 이른바 '킬 스위치' 도입도 지지했다.
의회 규제 논의에 불을 붙인 결정적 계기는 최근 앤트로픽 AI 연구원 제이컵 콕슨의 경고다. 그는 지난 9일 "AI를 개발하는 사람들은 이 기술이 10년 안에 우리 모두를 죽일 수도 있다고 진심으로 믿고 있다"고 경고하며 회사를 떠났다. 콕슨은 온라인 글을 통해 "가장 극단적인 시나리오가 현실화될 가능성이 높으며, 내년 말이면 통제 불가능한 상황이 올 수 있다"고 지적했다. 이후 앤트로픽의 또 다른 핵심 인력이자 세계적 AI 전문가인 에번 허빙어 역시 X를 통해 콕슨에 동조하면서 "AI가 인류를 멸망시킬 수 있다"고 밝혀 파장이 확산됐다.
기술·정치 커뮤니케이션 자문가 샘 실버먼은 "대부분의 정치인들이 실제 연구자로부터 이런 이야기를 직접 들은 것은 이번이 처음"이라며 "분명 경종을 울리는 계기가 됐다"고 말했다. 그는 "정치인들이 '최선의 시나리오조차 전대미문의 경제·사회적 대혼란이고, 최악의 경우 인류 종말인가'라며 실시간으로 사태의 심각성을 자각하고 있다"고 설명했다.
다만 AI 업계 내부에서는 규제의 구체적 수위를 두고 셈법이 갈린다. 앤트로픽 등 일부 기업은 상대적으로 강한 안전 규제를 촉구하는 반면 구글과 메타 등 대형 IT 기업들은 대규모 데이터센터 투자를 지속하며 주도권 확보를 위한 경쟁을 이어가고 있다. 도널드 트럼프 대통령 역시 AI 안전을 위한 킬 스위치 도입엔 찬성하면서도 미중 경쟁 속에서 과도한 규제가 미국의 경쟁력을 떨어뜨릴 수 있다는 입장을 보여왔다.