AI와 역할극 벌여 보안설정 우회…개발자, 전문가도 모르던 소프트웨어 취약점 찾아내 대규모 해킹 시도
AI(인공지능)을 앞세워 사이버 보안 취약점을 분석하는 방식으로 해킹을 시도한 사례가 처음 적발됐다고 구글이 12일(현지시간) 밝혔다.
구글은 이날 자사 블로그 게시글에서 구글 사이버 위협 인텔리전스 그룹(GTIG)이 AI 개발 결과물로 추정되는 '제로데이 익스플로잇'을 사용한 사이버 공격 시도를 적발, 저지했다고 밝혔다.
제로데이 익스플로잇은 소프트웨어 제조사나 전문 개발자들도 아직 알아채지 못한 보안 취약점을 가리킨다. 보안 전문가들도 탐지하기 어려워 해커가 이 취약점을 파고들 경우를 대비할 시간이 없다는 의미로 '제로데이'라는 말을 쓴다.
구글은 최근 해커들이 AI와 역할극을 벌이는 방식으로 AI에게 사이버 보안 취약점 탐색을 지시하는 사례가 늘고 있다고 설명했다. 원래 AI에는 해킹 목적 사용을 방지하기 위한 안전장치가 심어져 있는데, 이런 역할극을 통해 안전장치를 우회한다는 것. 구글은 특히 중국, 북한에서 이런 활동이 자주 감지된다고 했다. 러시아에서도 AI를 활용해 우크라이나에 악성코드를 배포하려는 시도가 포착돼 지속적으로 관찰 중이라고 했다.
사이버 공격을 준비하는 단계에서 AI에게 공격 대상 조직의 체계도를 분석하는 사례도 빈번하다. 이를 통해 높은 권한을 가진 책임자를 찾아낸 다음 해당 책임자가 걸려들만한 맞춤형 피싱 공격을 준비할 수 있다고 구글은 설명했다.
또 오픈클로 같은 에이전트AI를 활용해 해킹을 사전 훈련하는 사례도 관찰됐다고 한다. 에이전트AI는 사용자 요청에 답변만 하는 생성형 챗봇AI가 발전된 형태로, 사용자가 설정한 목표를 실행하기 위해 자율적으로 판단, 행동하는 AI를 가리킨다.
구글은 AI로 가짜 뉴스 제작, 배포하는 사례도 계속해서 관찰되고 있다고 했다. AI로 가짜 사진, 영상을 제작, 유포하는 방식에서 벗어나 진짜 뉴스 영상 사이에 AI로 만들어낸 가짜 언론인 영상을 끼워넣는 식으로 발전했다는 것. 이런 식으로 뉴스 독자들이 진짜 뉴스 내용을 파악하지 못하도록 혼란을 주고, 언론 매체의 공신력을 깎아내린다고 한다. 구글은 친러시아 성향 인터넷 공작 활동에서 이런 활동을 포착했다.
구글은 "우리가 파악하기로 올해 초까지 위협 행위자들은 최첨단 AI 모델의 핵심 보안을 우회할 만한 획기적 능력을 갖추지 못했다"며 "대신 이들은 악성 코드를 끼워넣는 등 기존 방식으로 AI에 접근 중"이라고 했다. 이어 "구글은 AI 원칙에 따라 강력한 보안 조치와 안전장치를 갖춘 시스템을 설계한다"며 "전세계 사용자를 위한 광범위한 보호 기능을 제공하기 위해 안전장치를 지속적으로 강화하고 있다"고 했다.
