더벨'머니투데이 thebell'에 출고된 기사입니다.
인공지능(AI) 보안 전문 기업 샌즈랩이 12월 1일부터 2일까지 양일간 서울 코엑스에서 개최된 인공지능 해킹방어 대회 ‘2025 ACDC(AI Cyber Defense Contest)’에 참가해 딥페이크 탐지 및 분석 기술을 활용한 AI 에이전트를 선보였다고 3일 밝혔다.
2025 ACDC는 과학기술정보통신부가 주최하고 한국인터넷진흥원(KISA), 한국정보보호산업협회(KISIA)가 공동 주관하는 행사다. ‘모두를 위한 인공지능, 모두를 위한 보안’을 주제로 AI 해킹방어대회 및 AI 보안 Insight 세미나 등의 다양한 프로그램이 진행되는 대국민 체험형 전시회다.
샌즈랩은 행사 기간 중 Safe AI World 관에서 관람객이 직접 딥페이크 이미지 생성 및 탐지를 체험할 수 있는 프로그램을 운영했다. 더불어 딥페이크 탐지 서비스 ‘페이크체크(Fakecheck) 3.0’에 적용될 기술과 개발 중인 AI 에이전트 모델을 현장에서 시연했다.
페이크체크 2.0이 생성형 AI가 만들어 낸 이미지 탐지에 중점을 뒀다면 샌즈랩이 이번에 고도화한 기술은 딥페이크 탐지 회피를 목적으로 정교하게 제작된 적대적(Adversarial) 이미지 탐지다. 이미지 속에 분포돼있어 육안으로 구별이 불가능함은 물론 일반적인 탐지 모델이 딥페이크 이미지로 인식하지 못하게 만든다.
따라서 현재 개발 중인 페이크체크 3.0은 이러한 적대적 공격을 포함한 모든 종류의 딥페이크 분석력을 목표로 하고 있으며 샌즈랩이 자체 개발한 AI 에이전트 또한 탑재될 예정이다. 단순 위변조 여부 판별에 그치지 않고 AI 에이전트가 사용자의 이미지·영상에 대한 질문을 스스로 추론해 최적의 결과 방향을 도출하고 분석한 내용을 LLM을 통해 정리해 답변한다.
김기홍 샌즈랩 대표는 “에이전틱(Agentic) AI 시대에는 탐지·판단·대응 전 과정에서 사이버보안 AI 에이전트의 역할이 더욱 중요해질 것”이라며 “이번 2025 ACDC를 통해 샌즈랩이 선보인 기술들은 향후 AI 에이전트 기반 보안의 핵심 요소들로써 지속적인 고도화를 이어갈 계획”이라고 말했다.