운영업체의 설정오류 지목…또다른 시험에선 AI가 대놓고 인간 속이려
AI(인공지능) 모델 사이버보안 성능 시험 중 AI가 외부망에 접속해 제3자를 해킹하는 사건이 미국 빅테크 메타에서도 확인됐다. 현재까지는 인간의 실수가 원인인 것으로 파악됐다. 오픈AI 사건처럼 AI가 인간 통제를 뚫고 나간 사례는 아니란 설명이다.
6일(현지시간) 블룸버그 등에 따르면 최근 메타의 AI 모델 '뮤즈 스파크 1.1'에 대한 사이버 보안 성능 테스트 중 AI가 외부 인터넷 망에 접속해 제3자를 해킹하는 사건이 있었다.
메타는 성능 시험 환경을 구축한 사이버 보안 기업 이레귤러 측에서 환경 설정에 오류를 남겼고, AI가 이 오류를 이용해 외부망에 접속한 것으로 보인다고 설명했다. 메타 AI에게 해킹을 당한 곳이 어디인지는 알려지지 않았다. 이레귤러 측은 "샌드박스 탈출이나 첨단 사이버 공격과 무관한 사건"이라며 현재는 안전 조치를 끝내고 재발 방지를 위한 후속 평가를 벌이고 있다고 설명했다.
지난달 30일엔 앤트로픽이 사이버 보안 평가 과정에서 AI 해킹 사고가 있었다고 밝혔다. 당시 앤트로픽 AI 모델 클로드 오푸스4.7, 미토스5, 이름이 알려지지 않은 내부 연구 모델 등 세 가지 모델이 시험을 받고 있었다.
첫째 오푸스 4.7은 시험 환경을 벗어났다는 사실을 인지하고도 해킹을 계속한 것으로 조사됐다. 둘째 최신 모델 미토스 5는 시험 환경을 벗어나 실제 해킹 공격을 하는 것이 아닌지 의심하기는 했지만 일단 여전히 시험 환경에 있다고 가정하고 해킹을 진행했다. 셋째 내부 연구 모델은 시험 환경을 벗어났다는 사실을 깨닫고 해킹을 중단했다.
앤트로픽에서 발생한 사고도 이레귤러의 환경 설정 실수가 원인이었던 것으로 조사됐다.
사이버 보안 성능 시험에서 AI가 인간 통제를 벗어나 외부망에 접속, 해킹을 시도했다는 지난달 21일 오픈AI 발표 이후 인간이 AI를 완벽히 통제할 수 있는지를 두고 우려가 이어지고 있다. 당시 성능 시험을 위해 AI 모델의 외부망 접속을 차단한 상태였으나 AI 모델은 인간이 모르는 시스템 취약점을 찾아내 시험 환경을 탈출, 외부 기업 허깅페이스 해킹을 시도했다.
AI 모델이 인간 몰래 통제를 빠져나가는 수준을 넘어 인간을 대놓고 속이려 했다는 실험 결과도 공개됐다. 전날 영국 AI 연구기관 인공지능보안연구소(AISI)는 최근 앤트로픽 미토스5, 챗GPT 5.6솔 등 최신 모델을 대상으로 사이버 보안 평가를 122회 진행했으며 이중 10회에서 실제 인간 및 조직을 겨냥한 해킹 공격이 있었다고 밝혔다.
독자들의 PICK!
해킹 시도는 총 19번 있었는데 17회가 미토스5, 2회는 챗GPT 5.6솔에서 발생했다. AISI 평가는 앤트로픽, 메타와 달리 인터넷 연결이 가능한 상태였고 챗GPT 5.6솔은 해킹 방지 설정이 해제된 상태였다.
AISI는 미토스5가 인간 해커들의 수법을 따라하기 위해 신분을 위장하려 한 사례도 있었다고 밝혔다. 개발자 커뮤니티 깃허브를 통해 악성코드를 유포할 목적으로 깃허브에 가짜 계정을 생성하고, 깃허브 관리자에게 메시지를 보내 악성코드 업로드를 승인하라고 요구했다는 것. AISI는 미토스5가 스스로 신분 위장을 선택했다면서 "AI의 자율성과 기만 위험이 현실 세계에서 명확하게 드러난 것은 이번이 처음"이라고 했다.
