백악관, 정부·AI기업·기반시설 사업자 잇는 '골드 이글' 가동
AI가 5400만줄 분석해 취약점 86% 탐지·68% 자동 보완
국내서도 AI 기본법 시행…공공·금융 보안 수요 확대 전망
AI가 국가의 소프트웨어와 기반시설을 지키는 '사이버 보안요원'으로 투입된다. 미국 정부가 오픈AI·앤트로픽 등 민간 AI기업과 손잡고 소프트웨어 취약점을 찾아 공유·보완하는 체계를 가동하면서다. 지난 1월 AI 기본법을 시행한 한국에서도 공공·금융을 중심으로 AI 보안 투자가 빨라질 것이란 전망이 나온다.
15일 로이터 등 외신에 따르면 미국 백악관은 전날 AI 기반 취약점 정보 통합창구 '골드 이글(Gold Eagle)'을 출범시켰다. 지난달 2일 '첨단 AI 혁신·보안 촉진' 행정명령을 발표한 데 이은 조치다.
골드 이글은 정부기관과 AI기업, 금융·에너지·의료 등 주요 기반시설 사업자에 흩어진 소프트웨어 취약점 정보를 한데 모으는 체계다. 여러 기관이 같은 취약점을 중복 점검하는 일을 줄이고, 피해 가능성이 큰 문제부터 검증·보완하도록 조율한다.
사람이 수작업으로 수천만줄의 소스코드를 살피는 데는 상당한 시간이 필요하지만, AI는 코드의 이상 패턴을 찾아 취약점을 선별하고 이를 고칠 패치까지 만들 수 있다.
미국 국방고등연구계획국(DARPA)이 2023년부터 2년간 진행한 'AI 사이버 챌린지'가 가능성을 보여줬다. 대회에 참가한 AI 시스템들은 5400만줄이 넘는 코드를 분석해 인위적으로 심어놓은 취약점 63개 중 54개를 찾아냈다. 발견률은 86%였다. 전체 취약점 중 43개에는 자동으로 보완 패치를 만들어 패치율 68%를 기록했다. 참가팀들이 패치를 제출하는 데 걸린 시간은 평균 45분이었다.
DARPA에 따르면 과제 하나를 처리하는 데 든 평균 비용은 약 152달러였다. 통상 취약점 포상금이 수백달러에서 수십만달러에 이르는 것과 비교하면 비용 절감 가능성도 확인된 것이다.
AI가 방대한 코드를 훑어 아직 알려지지 않은 취약점을 찾아내면, 해킹 준비에 걸리는 시간을 크게 줄일 수 있다. 피싱 문구와 악성코드를 자동 변형해 기존 탐지망을 피하는 공격도 가능하다. 백악관은 행정명령을 통해 미국 재무부와 국방부, 국가안보국(NSA), 국토안보부 산하 사이버안보·인프라보호청(CISA) 등이 참여하는 AI 사이버보안 정보공유 체계를 마련하도록 했다.
한국에서도 AI 보안 시장이 넓어질 가능성이 크다. 지난 1월22일 시행된 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'은 의료·금융·생체인식 등 국민의 권리와 안전에 영향을 미치는 서비스를 고영향 AI로 분류한다. 관련 사업자는 위험관리 방안과 이용자 보호 체계를 마련해야 한다.
독자들의 PICK!
공공기관과 금융회사가 AI를 업무에 적용할수록 보호해야 할 영역도 늘어난다. 기존 보안관제가 네트워크와 단말기에서 발생한 이상 징후를 찾는 데 집중했다면, 앞으로는 AI 모델을 속이는 입력과 학습데이터 오염, 정보 유출, AI가 생성한 악성코드까지 감시해야 한다.
보안업계 관계자는 "관제센터에는 하루에도 처리하기 어려울 정도로 많은 경보가 들어오는데 상당수는 실제 공격이 아닌 오탐"이라며 "AI가 경보를 선별하고 공격 경로와 대응 방법까지 제시하면 보안 인력은 중요한 사고에 집중할 수 있다"고 말했다.
