오픈AI의 인공지능(AI) 에이전트가 호주 정부 웹사이트와 서비스에 무단 접근한 사실이 뒤늦게 공개됐다. 이는 AI 에이전트가 정부 웹사이트를 해킹한 것으로 알려진 최초의 사례가 될 전망이다.
23일(현지시간) 로이터통신 등에 따르면 앤서니 앨버니지 호주 총리는 이날 유엔총회 참석차 방문 중인 미국 뉴욕에서 기자회견을 통해 오픈AI의 AI 에이전트가 지난 6월 정부 보건 사이트에 침입해 관련 파일에 무단으로 접근했다고 밝히며 AI 위험성에 대한 안전장치와 대응 절차가 필요하다고 강조했다.
앨버니지 총리는 "오픈AI의 에이전트가 공공 의료 지출을 포함한 민감하지 않은 보건 데이터 및 통계를 담당하는 정부 기관의 보건 통계 포털에 무단 접근했다. 현재 확보된 증거에 따르면 네트워크 전반에 걸친 더 큰 위협은 없는 것으로 보인다"면서도 "이번 상황은 명백히 용납할 수 없는 일"이라고 말했다. 이어 보건 통계 사이트 이외 다른 정부 사이트 3개도 영향받았을 가능성이 있다고 덧붙였다. 그는 "문제는 오픈AI의 에이전트가 (보건 통계) 데이터를 수집하려 할 때 다른 정부 사이트까지 진입했느냐는 것"이라며 "다른 정부 사이트가 실제 공격을 받았다는 의미는 아니"라고 설명했다.
앨버니지 총리는 "호주 정부가 관련 조사를 계속 진행 중"이라며 "정부 시스템이 오픈AI AI의 무단 침입을 감지하지 못한 것에 대해서도 조사할 것"이라고 강조했다. 이어 호주 정부가 샘 올트먼 오픈AI 최고경영자(CEO)에게 "이번 사건에 대한 극심한 우려를 전달했다"며 오픈AI가 해킹 사실을 뒤늦게 호주 정부에 통보한 것도 깊은 유감을 표명했다고 전했다. 오픈AI의 통보는 지난 10일이 돼서야 이뤄졌다고 한다.
오픈AI는 자사 AI 모델의 호주 정부 사이트 해킹 사실을 사건 발생 2개월 만인 지난 8월에 인지했다고 한다. 오픈AI는 성명을 통해 자사 AI 모델의 비정상 활동을 조사하는 과정에서 여러 호주 정부 웹사이트와 서비스와 관련된 활동을 확인했다며 "검토 결과 AI가 환자 기록에 접근했다는 증거는 발견되지 않았다. 접근된 정보에는 집계된 보건 통계 및 내부 파일 이름이 포함됐다"고 밝혔다. 성명은 "자사 모델이 답을 찾으려는 과정에서 호주 정부의 여러 웹사이트와 서비스와 관련된 활동을 확인했다"며 "우리 모델들이 우리가 의도하지 않은 행동을 취했다"고 무단 침입 사실을 인정했다.
로이터는 "이번 사태는 오픈AI가 자사 AI 모델의 해킹 사실을 뒤늦게 공개한 최근 여러 사건 중 가장 최신 사례"라며 AI 위험성과 오픈AI의 AI 안전장치에 대한 논란이 심화할 가능성을 시사했다. 지난 7월 오픈AI의 미공개 AI 모델들이 테스트 과정에서 글로벌 오픈소스 AI 플랫폼 허깅페이스를 무단 해킹하는 사건이 발생했고, 오픈AI는 해킹 발생 일주일 뒤에 이를 확인했다. 올트먼 CEO는 앞서 허깅페이스 해킹을 "지금까지 오픈AI가 경험한 최악의 사고"라며 "기술 발전에 대한 업계의 경종을 울린 사건"이라고 평가했다.
한편 올트먼 CEO는 이날 유엔 안전보장이사회(안보리) 회의에 참석해 AI의 급속한 발전에 따른 위험을 경고하며 인간의 통제 가능성을 입증하지 못한 AI 모델은 훈련해서는 안 된다고 강조했다. 그는 "AI가 민주적으로 관리되기 위해선 중요한 결정들이 샌프란시스코의 일부 기업에 의해 결정돼서는 안 된다. 그 결정들은 민주적 절차와 국민에게 책임을 다하는 정부를 통해 형성되어야 한다"며 국제사회 중심의 AI 감독 국제기구 설립을 촉구했다.