경쟁 관계에 있는 인공지능(AI) 모델이 상대 기업의 핵심 시스템을 침투하는 데 사용되는 사건이 발생했다. AI 기술 발전이 사이버 공격의 속도와 위력을 어디까지 끌어올릴 수 있는지를 단적으로 보여준 사례로 평가된다.
사이버 보안 전문 연구업체 해크트론은 앤트로픽의 최신 AI 모델 '클로드 오퍼스 5'를 활용해 오픈AI 내부 시스템의 보안망을 뚫고 침투 흔적을 남기는 데 성공했다고 18일(현지시간) 밝혔다.
해크트론 연구진은 오픈AI의 도움말 게시판(포럼)의 보안 허점을 이용해 서버 내부로 들어간 뒤 이곳에 노출된 오픈AI 임직원들의 챗GPT 및 코딩 도구 코덱스 계정 권한을 확보했다.
이후 탈취한 계정을 활용해 오픈AI의 단일 코드 저장소인 '모노레포' 시스템까지 진입했다. 모노레포는 오픈AI의 핵심 프레임워크와 알고리즘 기밀 데이터가 집약된 시스템으로 알려진다.
이번 침투 과정에서 가장 눈길을 끈 대목은 AI 모델 성능에 따른 공격 능력의 격차였다.
초기 연구진은 이전 세대 모델인 '클로드 오퍼스 4.8'을 동원해 공격용 코드를 작성했지만 시스템 보완벽을 넘지 못했다. 하지만 앤트로픽이 신형 모델인 '오퍼스 5'를 활용하자 수 시간 만에 기존 시스템을 무력화하는 정교한 정찰 및 공격 스크립트를 생성해 냈다.
서버 취약점을 첫 발견한 순간부터 최고 권한 저장소에 도달하기까지 걸린 전체 시간은 72시간이 채 걸리지 않았다.
해크트론 관계자는 "에이전트 시스템이 스스로 작업을 수행하는 동안 실제 인간 보안 연구원이 개입한 시간은 단 몇 시간에 불과했다"며 "차세대 AI 모델이 등장할 때마다 공격 효율성이 폭발적으로 증가하고 있다"고 분석했다.
해크트론은 이번 보안 허점 탐색 결과를 오픈AI 측의 버그 바운티(보안 포상금) 프로그램을 통해 즉시 제보했다. 오픈AI는 위협을 확인한 뒤 14시간 만에 해당 취약점에 대한 패치 작업을 완료하고 제보팀에 6500달러(약 900만원)의 포상금을 지급했다.
오픈AI 역시 최근 사태의 엄중함을 인식하고 방어 태세를 대폭 강화한 상태다. 그렉 브록먼 사장의 지시에 따라 전체 엔지니어 인력의 25%를 보안 및 인프라 방어 전담팀으로 재배치하는 등 비상 대응에 나섰다.
자율 공격에 경쟁사 해킹까지…격변기 맞은 AI 사이버 보안
최근 AI 기술이 인간의 명시적인 지시 없이도 격리된 환경(샌드박스)을 탈출하거나 외부 시스템을 자율적으로 공격하는 단계까지 진화하면서 심각한 보안 우려를 자아냈다.
공격 수단의 고도화와 방어망 구축 간의 속도전이 치열해지는 가운데 AI 업계 내부에서도 속도 조절론이 힘을 얻고 있다. 다리오 아모데이 앤트로픽 CEO를 필두로 모델의 성능 향상 속도만큼 보안 통제 장치 마련이 선행돼야 한다는 주장이 제기되는 등, 기술 개발과 안전성 보장 사이의 주도권 다툼은 더욱 격화될 전망이다.