"인공지능(AI)이 해킹을 시작하면 해킹 속도와 규모, 범위 등 모든 것이 바뀔 것이다."
2년전, 세계적인 보안 전문가 브루스 슈나이어의 경고가 결국 현실이 됐다. 세계 최대 상거래 사이트 '아마존'은 하루 10억건의 사이버 공격 위협에 직면해 있다. 전 세계 주요 인프라는 초당 13번의 공격을 받는다. IBM 보고서에 따르면 사이버 공격 글로벌 피해 규모는 10조 달러(1경4654조원)를 넘어설 전망이다. 이제 우리는 인간과 AI가 결합한 새로운 사이버 위협에 맞서야 하는 'AI 보안시대'에 들어선 것이다.
AI는 사이버 보안 환경을 근본적으로 변화시키고 있다. 생성형 AI가 공격 시나리오를 무한대로 만들어내며 공격 프로세스를 빠르게 단축하고 있어서다. 기존에는 취약점 발견부터 공격까지 평균 47일이 소요됐다. 하지만 AI를 활용해 공격 프로세스가 한달 가까이 줄면서 18일만에 공격이 가능해졌다. 성공률 역시 50%를 넘어섰다.
종전과는 비교할 수 없이 빠르게 제로데이(Zero Day) 취약점을 악용하고, 기존 보안 시스템을 우회하는 지능형 공격이 가능하기 때문이다. 또한 AI 기반 피싱 공격은 챗 GPT 등장 이후 4151% 증가했으며, 피싱 이메일 클릭률 역시 30% 이상 높아졌다. 공격 양태도 단일 시스템을 넘어 ICT(정보통신기술) 인프라를 마비시키는 등 피해 범위를 확대하고 있다.
더 심각한 위협은 AI 기술을 정교하게 활용하는 숙련된 공격자들이다. 이들은 AI를 활용해 더욱 정교한 멀웨어(Malware·악성 소프트웨어)를 생성하고, APT(지능형 지속 위협) 공격을 감행한다. 장기간, 주기적으로 지속적인 공격을 시도하고, 침입 흔적을 지워 대응을 어렵게 만드는 등 기존 사이버 공격의 한계를 뛰어넘고 있다. 또한 국가 주요 기반 시설의 무결성을 침해하고, 운영기술(OT)에 대한 제어권도 탈취한다. 이러한 공격 양상은 전자전과 우주전으로 확대되어 위성항법시스템(GPS) 교란, 전자기파(EMP) 공격에 의한 전자장비 무력화 등 국가안보까지 위협하고 있는 상황이다.
이렇게 AI가 '창'이 된다면, '방패' 역시 AI여야 한다. 기존 방식으로는 AI가 주도하는 공격을 막아낼 수 없다. 'AI기반 협력적 다층 방어체계'를 구축해야 한다. 이를 위해 먼저 선제적 대응을 위한 지능형 보안 관제 시스템이 필요하다. 위협 인텔리전스를 기반으로 실시간 분석하고, 대응을 자동화해야 한다. 또한 클라우드 표적 공격에 대응하는 클라우드 보안 플랫폼을 확보하고, 엔드포인트 보안(EDR)을 강화해 공격 표면을 두텁게 보호해야 한다. 아울러 AI모델 자체를 보호하기 위한 무결성 검증 시스템 도입이 필수적이다. 또한 AI 시대에 걸맞는 전략적 보안 대책 수립과 함께, 모의 침투 상황을 훈련하는 레드팀 운영 역시 중요하다. 이는 공격 피해 시 정상 운영 복구까지의 시간과 비용을 최소화할 수 있는 강력한 사이버 복원력 구현을 위한 장치가 될 것이다.
2025년 8월, 미국 국방부 산하 국방고등연구계획국(DARPA)은 생성형 AI의 보안 위협에 대비하는 'AI 사이버 챌린지(AI×CC)'의 본선을 개최한다. AI로 고도화된 사이버 공격을 AI를 활용해 효과적으로 방어할 수 있는 차세대 기술을 확보하기 위해서다. 우리 역시 AI기반의 첨단능동보안 기술 확보에 주력하며 미국, 유럽연합(EU)과의 공동 연구를 강화하는 등 글로벌 사이버 보안 협력을 확대하고 있다. 이처럼 사이버 공간에서 AI창과 AI방패의 대결은 이미 시작됐다.
결국 AI 보안의 주도권을 누가 먼저 확보하느냐에 따라 사이버 공간의 질서가 결정될 것이다. AI창은 더 날카로워질 것이기 때문에 이를 막기 위한 AI방패는 더욱 견고해져야 한다. 이는 모두가 함께할 때 가능해질 수 있을 것이다. AI방패는 AI 대전환 시대의 든든한 버팀목이 될 것이다.