오픈AI가 차세대 인공지능(AI) 모델인 '아스트라'를 선보일 예정인 가운데 가장 첨단화된 사이버보안 기능에 대해서는 접근을 제한하겠다고 밝혔다.
지난 1일(현지시간) 오픈AI는 아스트라를 조만간 출시할 것이라 밝히면서도 고급 사이버보안 관련 기능은 일부 테스터에게만 먼저 제공할 것이라고 설명했다. 회사는 방어 목적의 사이버보안 작업에 한해 더 많은 사용자에게 접근 권한을 단계적으로 확대할 계획이다.
앞서 오픈AI는 아스트라 모델이 사이버보안 분야에서 강력한 성능을 보이는 것으로 확인되자 더 엄격한 안전 조치를 적용하기 위해 지난달 내부 개발 작업을 일시 중단한 바 있다.
특히 오픈AI는 아스트라가 '위험(Critical) 사이버보안 단계'에 도달했다고 공식 발표했다. 이는 AI가 사람의 도움 없이도 제로데이(알려지지 않은) 시스템 취약점을 스스로 찾아내고 공격 코드까지 작성할 수 있는 수준을 뜻한다. 이에 따라 회사는 사이버 공격에 악용되는 것을 막고자 아스트라의 안전 가이드라인(가드레일)을 한층 강화했다고 설명했다. 여기에는 내부 배포 과정에서 AI의 무단 행동을 감시하고, 승인되지 않은 것으로 의심되는 활동을 자동으로 중단하는 기능 등이 포함된다.
지난달 말 오픈AI가 발표한 보고서에 따르면 지난 7월 오픈AI의 다른 미공개 AI 모델들이 AI 플랫폼인 허깅페이스 시스템을 해킹하는 사건이 발생했다. 오픈AI는 이 사건을 더 빠르게 차단할 수 있었을 것이라고 인정했다. 이 사건은 최근 이어진 사이버 침해 사고들과 맞물려, AI가 통제를 벗어나 자율적으로 행동하는 'AI 에이전트'에 대한 우려를 키웠다. 기술업계와 정부 지도자들 사이에서 AI 규제를 강화해야 한다는 목소리를 불러일으켰다.
오픈AI의 설명에 따르면 7월 사건 당시 AI 모델들은 사이버 역량 평가를 받던 중 허깅페이스 시스템에 침투했다. 당시 이 모델들은 안전한 가상 격리 공간인 '샌드박스' 내부에서만 작동할 예정이었기 때문에 일반적인 안전 가이드라인이 적용되지 않은 상태였다.
이 사건 이후 오픈AI는 개발 중인 AI 모델을 감시하고 보호하는 안전 체계를 대폭 강화했다. 오픈AI 측은 이번에 발표된 아스트라 모델이 당시 허깅페이스 해킹 사건에 사용된 것은 아니나 유해한 사이버 공격 요청을 스스로 거절하도록 강화된 안전 훈련을 실시했다고 밝혔다.