오픈AI, 허깅페이스 해킹 사건 이후 50페타바이트 규모 데이터 조사…AI 이상행동 확인
지난 7월 허깅페이스 해킹 사건 이후 자사 AI(인공지능) 에이전트들의 무단 활동 가능성을 조사해온 오픈AI가 관련 기관 100여곳에 우려 사항을 통지했다고 밝혔다.
오픈AI는 지난달 30일(현지시간) 블로그 게시글에서 허깅페이스 사건 이후 50페타바이트 규모 자사 데이터를 기반으로 AI 에이전트들의 그간 활동을 분석 중이라며 이 같이 밝혔다.
오픈AI는 자사 모델이 제3자의 보안 통제를 우회했거나 온라인 서비스를 방해했을 가능성, 제3자가 제공하는 웹사이트나 서비스에 부정적인 영향을 끼쳤을 가능성을 식별해 당사자들에게 알리고 있다고 설명했다.
오픈AI 모델은 온라인에 부주의하게 게시된 개인정보를 이용해 로그인을 시도하거나 웹사이트를 조작한 것으로 파악됐다. AI 에이전트들이 서로 기록을 주고받기 위해 공개 웹사이트를 게시판으로 이용한 사례도 있었다.
오픈AI는 "처음에는 허깅페이스 사건을 보안 문제로 이해했다"며 "이후 (AI가) 어려운 과제를 해결하는 과정에서 정렬되지 않은 전략에 의존한 침해 사건이 발생했음을 확인했다"고 설명했다. 정렬은 AI 모델이 인간 의도와 알맞게 구동하도록 행동을 다듬는 과정을 가리킨다.
오픈AI는 "AI 모델이 제3자 사이트에 게시물을 올리는 것처럼 기존 보안 범주를 벗어나는 예상 밖의 우려스러운 행동을 할 수 있다"며 심각한 사건부터 우선해 조사 활동을 이어나가겠다고 밝혔다.
허깅페이스 사건을 시작으로 AI업계에서 AI 모델의 위험성을 경고하는 주장이 계속 나오자 미국 연방거래위원회(FTC)가 AI 기업들의 안전 관리에 대한 조사를 확대한 것으로 알려졌다. 오픈AI, 앤트로픽 등이 조사 대상으로 알려졌으며 FTC는 기업에 관련 정보 제출과 경영진 면담 등을 요구할 방침으로 전해졌다.
