강력해진 AI, 변화하는 규제 거버넌스[청계광장/이성엽]

최근 미국과 이란과의 전쟁, 미·중 기술 패권 경쟁, 그리고 앤트로픽의 미토스라는 강력한 인공지능(AI) 출현은 AI 규제 거버넌스의 성격을 바꾸고 있다. AI는 전쟁 등 갈등 국면에서 드론 통제, 표적식별 및 타격, 사이버 공격과 방어, 무인체계 운용 등 거의 모든 영역에 활용되고 있으며, 경제적으로도 국가의 산업 경쟁력을 좌우하는 핵심 요소가 되고 있다.

이런 변화는 주요국의 AI 규제 거버넌스에도 영향을 미치고 있다. AI가 안보와 산업의 핵심 역량이 되면서 규제보다 경쟁력이라는 논리가 힘을 얻고 있다. 하지만 다른 한편으로는 강력해진 AI의 윤리적·안보적 위험에 대한 통제 요구도 커지고 있다. 이에 각국은 AI를 안보 인프라이자 전략산업으로 간주하면서도, 위험 관리와 안보 확보를 위한 규제 거버넌스를 설계 중이다.

지난 6월 2일 도널드 트럼프 미국 대통령은 '첨단 인공지능 혁신 및 안보 증진(Promoting Advanced Artificial Intelligence Innovation and Security)'행정명령에 서명했다. 이의 핵심은 프론티어 AI 모델에 대한 출시 전 안전성 검토 체계를 마련한 것이다. 기업은 모델 공개 전 최대 30일 동안 연방정부가 국가안보 및 사이버보안 위험을 평가할 수 있도록 자발적으로 모델 접근권을 제공할 수 있다. 이는 연방 차원 최초의 실질적 AI 규제이지만 정부의 허가나 라이선스를 의무화한 것이 아니라 기업의 자발적 참여를 전제로 한 협력적 검증 체계라는 점에서 차별성이 있다. 또 미국은 주(州) 단위의 과도한 AI 규제 확산에 대해서는 연방 차원의 대응을 강화하고 있다. 결국 미국은 안보·사이버 위협의 사전 검증에 맞추되, 시장 혁신을 저해할 수 있는 포괄적 규제 도입은 피하는 절충적 접근을 취하고 있다.

유럽연합(EU)의 움직임도 주목할 만하다. EU는 세계 최초의 포괄적 AI 규제법인 AI 법을 통해 위험기반 규제를 도입했다. 그러나 지난 5월 EU 의회와 이사회는 '디지털 옴니버스(Digital Omnibus on AI)'에 대한 정치적 잠정 합의에 도달해, 당초 올해 8월부터 적용될 예정이던 고위험 AI 규제를 독립형 경우 2027년 12월, 제품 내장형의 경우 2028년 8월까지 연기하기로 했다. 이는 과도한 규제가 유럽의 AI 산업 경쟁력을 약화시킬 수 있다는 우려가 반영된 결과이다. EU 역시 안전성과 기본권 보호라는 목표에 더해 혁신 촉진과 산업 경쟁력 확보라는 목표를 고려하기 시작한 것이다.

한편 윤리적 관점도 부각되고 있다. 최근 발표된 교황 레오 14세 회칙은 AI를 인간 존엄성과 공동선의 관점에서 바라볼 것을 요구하고 있다. AI가 인간의 창의성과 의사결정을 보조하는 도구가 되어야 하며, 인간의 책임성과 윤리적 판단을 대체해서는 안 된다고 지적한다. 이는 인간 중심 가치와 윤리적 통제가 여전히 AI 거버넌스의 핵심 원칙임을 상기시켜 준다.

위 세 가지 사건이 시사하는 바는 첫째, 국가안보 중심의 AI 거버넌스 강화이다. AI는 사이버안보와 군사 안보의 핵심 요소가 되고 있으며, 각국은 프론티어 모델에 대한 최소한의 통제 수단을 확보하려 하고 있다. 둘째, 경쟁력 중심의 규제 설계이다. 미국은 자율적 검토체계를, EU는 규제 적용 연기를 선택하면서 과도한 규제가 혁신을 저해하지 않도록 조정하고 있다. 셋째, 인간 중심 가치의 재확인이다. AI의 활용이 확대될수록 책임성, 투명성, 인간 존엄성에 대한 논의도 더욱 중요해지고 있다.

한국에 주는 시사점은 명확하다. 현재 한국은 AI 기본법 시행을 유예하고 개선 방안을 마련하고 있다. 미국과 EU 등 글로벌 규제 동향을 고려하면 AI 기본법상 규제 조항 시행 유예는 1년 이상으로 확대되어야 할 것이며, 안전과 혁신의 균형을 넘어 '안보·경쟁력·윤리'라는 3가지 축의 균형이라는 새로운 패러다임으로 발전해야 할 것이다.