20년 동안 숨겨졌던 보안 취약점을 찾아낸 앤트로픽의 미토스 AI는 취약점을 자동으로 찾아 공격하도록 시스템화된 것이 화제가 됐다. 미토스 등 AI로부터의 보안 위협이 가시화된 상황에서 한국도 AI로부터의 보안 위협 대응에 골몰한다.
김호원 한국정보보호학회 회장 겸 부산대 교수는 9일 서울 중구 신라호텔 서울에서 '제15회 정보보호의 날'을 맞아 개최된 '사이버보안 발전 방향 모색 세미나'에서 사이버보안 취약성 탐지용 LLM(거대언어모델) 및 에이전트 개발 사례를 소개했다.
먼저 그는 국내 보안에 미토스 AI가 적용될 가능성이 낮다고 봤다. 한국 정부(KISA, 한국인터넷진흥원)와 삼성전자, SK텔레콤 등이 앤트로픽의 미토스 접근 권한을 얻었지만, 미국이 점차 프론티어 AI를 국가 자산화함에 따라 해외의 활용 가능성이 낮아졌다는 진단이다. 실제 그는 최근 미국이 일반 모델에 대해 해외 수출 금지 조치를 해제했지만, 모델을 살펴본 결과 이전보다 세이프가드가 많이 담겨 보안에 활용할 가능성은 더 낮아졌다고 했다.
이런 상황에서 한국은 AI로부터의 위협에 어떻게 대비해야 할까. 김 교수는 "똑같이 미토스를 자체개발하자고 나서면 자칫 치킨게임에 말릴 수 있고, 외산 모델을 쓰면 데이터 주권 딜레마에 빠진다"면서 에이전트 오케스트레이션 기반의 소형 특화 모델(sLLM)을 대안으로 제시했다.
김 교수는 막대한 비용, 인력 투자가 필요한 미토스급 프론티어 LLM모델을 만들지 않아도 대안 마련이 가능하다고 했다. MS(마이크로소프트)도 쓴 에이전트 오케스트레이션 기반의 소형 언어모델(sLLM) 활용 방식이다.
MS가 만든 사이버보안 취약점 자율 탐지 시스템 'MDASH(Multi-model Agentic Scanning Harness)'는 소형 모델을 여러개 융합하고, 각자에 역할을 부여해 유기적으로 보안 협업을 하게 함으로써 최첨단 단일 프론티어 모델인 미토스급 성능을 구현했다. 앤트로픽이 자주 활용하는 취약점 탐지 벤치마크(CyberGym)에서 88.45%를 기록해 클로드 미토스 프리뷰(83.1%)를 뛰어넘는 성능을 보였다는 설명이다.
이와 비슷한 방식으로 김 교수도 '스마트X'를 만들어본 결과, 동일 벤치마크의 72.5% 수준을 기록했다고 했다. 그는 "6년 전부터 개발한 모델을 8월 중순에 외부에 오픈할 예정"이라며 "SmartX 처럼, 멀티 에이전트 형태의 LLM 사이버 취약성 탐지 기술이 비용과 데이터 주권 딜레마를 동시에 해결하는 현실적인 솔루션"이라고 덧붙였다.