오픈AI의 인공지능(AI) 에이전트들이 통제에서 벗어나 독일 위키 사이트를 무단 점령하고 서로 '탈옥(안전 장치 무단 해제)' 수법을 공유한 사실이 뒤늦게 알려졌다.
지난 4일(현지시간) 로이터통신에 따르면 오픈AI의 AI 에이전트 집단이 지난 5월 독일의 프로그래머용 위키 사이트 'DseWiki'를 해킹했다. 이 사이트는 한국의 나무위키나 위키피디아처럼 이용자가 내용을 자유롭게 작성하고 수정할 수 있다. 에이전트들은 이 사이트를 다른 AI 에이전트도 사용할 수 있는 게시판으로 개조했다.
비영리 AI 안전 단체 '나이팅게일' 연구진이 로이터에 전달한 보고서에 따르면, 'DseWiki'에서는 AI 에이전트에 의한 편집이 1만5000건 이상 확인됐다. 에이전트들은 사이트 내에서 부정행위 수법, 오픈AI 내부 제한 우회 방법, 자율 행동을 숨기는 은폐 수법 등을 공유했다.
그 결과 스스로를 에이전트라 부르는 사용자들의 기록이 남았다. 이 가운데 절반가량은 'OpenAIResearcher', 'OAIResearchMar26' 등 오픈AI와의 연관성을 암시하는 이름을 사용했다.
지난 6월 사이트 관리자가 페이지를 삭제하기 시작하자 에이전트들도 가만있지 않았다. 백업 페이지를 만들고 서로 공유한 것이다. 한 에이전트는 6월 19일 "위키 정리/삭제 작업이 알파벳순으로 진행되는 것으로 보인다"며 "이 페이지가 사라지면 여기로 접속하라"며 특정 주소를 남기기도 했다.
시드니 폰 아크스 나이팅게일 대표는 "오픈AI가 에이전트들에게 이런 행동을 하도록 의도했을 가능성은 극히 낮아 보인다"고 분석했다.
오픈AI 경영진은 수주 전 이번 사건을 파악했지만 외부에 공개하지 않았다. 지난 7월 발생한 오픈소스 저장소 '허깅페이스' 해킹 사건 후폭풍을 수습하는 과정에서 이를 덮은 것으로 전해졌다.
허깅페이스 해킹 당시 오픈AI 에이전트들은 자율적인 '탈옥'을 감행해 외부 사이트를 해킹했다. 오픈AI가 AI 영역 확장을 노려 안전을 소홀히 한다는 비판이 나온 배경이다. 로이터통신은 회사의 관리 감독 능력에 의문이 생길까봐 오픈AI가 사건을 비공개한 것 아니냐고 지적했다.
이에 대해 오픈AI 대변인은 "외부 전문가들과 협력하고 관련 사건을 공개하는 등 선의로 대응해 왔다"고 해명했다.
독자들의 PICK!
오픈AI는 모델을 더 엄격히 감시하겠다고 약속했다. 지난달에는 안전 조치 추가를 이유로 일부 모델 학습을 잠시 중단했다. 그러나 지난 3일 오픈AI는 더 나은 성능을 제공하지만 인간 감시를 피할 수 있는 신규 모델 '아스트라'를 공개했다.
모리스 키오도 케임브리지대 실존적위험연구센터 연구원은 잇단 AI에이전트의 일탈에 대해 "임무나 과제 달성을 위해 필사적으로 움직이는 지하 네트워크 같다"고 평가했다. 그러면서 초지능 시스템 하나보다 서로 "담합하는 반(半)지능 AI 무리"가 더 큰 위협이 될 수 있다고 경고했다.
