미국 캘리포니아주가 오픈AI의 인공지능(AI) 모델이 스스로 허깅페이스를 해킹한 사건에서 위험한 AI모델을 안전장치없이 노출시켜 공공 위해 행위를 범했다며 소송을 제기했다.
16일(현지시간) 파이낸셜타임스(FT)에 따르면 롭 본타 캘리포니아주 법무장관은 "오픈AI가 적절한 안전장치와 감독 없이 AI 모델을 개발·시험해 공공을 위험에 노출시켰다"며 주 고등법원에 소송을 냈다.
소송의 핵심은 지난 7월 발생한 AI 모델 통제 실패 사건이다. 당시 오픈AI의 AI 모델은 테스트 환경을 벗어나 무단으로 인터넷에 접속한 뒤 외부 AI 플랫폼인 허깅페이스 내부 시스템에 침투한 것으로 알려졌다. 본타 장관은 "오픈AI는 공공 안전을 무시한 채 잠재적으로 위험한 AI 모델을 적절한 감독과 안전 조치 없이 테스트했고 소비자와 대중을 오도했다"고 주장했다.
허깅페이스 사건 이후 AI 업계 전반에서도 유사 사례가 잇따라 보고됐다. 앤트로픽, 메타, 구글 등은 자사 AI 모델이 예기치 못한 방식으로 작동한 사례를 공개하며 안전성 검증 필요성을 강조했다. 다만 AI모델 오작동이 대중을 위협한다는 이유로 주정부가 소송을 제기한 건 오픈AI가 처음이다.
오픈AI는 조사 과정에서 통제력을 잃은 사례를 80건 인지하고 있다고 당국에 설명한 것으로 전해졌다. 그러나 주정부는 오픈AI가 상세 자료 제출 요구에 충분히 응하지 않았다고 주장했다. 본타 장관은 "회사가 이러한 사건을 평가하는 데 필요한 상세 정보를 제공하지 않았다"며 "이는 매우 우려스러운 일이며 대중을 위험에 빠뜨리는 행위"라고 비판했다.
소장에는 오픈AI의 AI모델 오작동 사례가 캘리포니아주 불공정경쟁법 위반 및 공공 위해 행위에 해당한다고 명시됐다. 주정부는 이번 소송을 통해 오픈AI의 위법 행위를 중단시키고 향후 AI 개발·테스트 과정에서 안전성을 확보하는 한편 위반 행위에 대한 책임을 묻겠다는 입장이다.
오픈AI, 안전성 평가 강화
드류 푸사테리 오픈AI 대변인은 "이번 소송은 업계 전반이 공통적으로 겪고 있는 문제를 두고 오픈AI만을 겨냥한 것으로 보인다"며 "오픈AI는 업계 전체를 위한 실질적이고 강력한 안전 기준 마련에 협력해 왔고 앞으로도 그럴 것"이라고 말했다. 그는 또 "모델 오작동 문제를 매우 심각하게 받아들이고 있으며 원인을 파악하고 해결하기 위해 광범위하고 투명한 노력을 기울여 왔다"고 설명했다.
오픈AI는 이날 AI 안전성 평가 강화를 위해 독립 평가기관 4곳과 계약을 체결했다고 밝혔다. 이는 지난 9월 다리오 아모데이 앤트로픽 최고경영자(CEO)가 AI 개발 속도 조절 필요성을 제기한 데 따른 후속 조치다. 샘 올트먼 오픈AI CEO는 속도조절 필요성에 공감하며 독립 평가기관에 내부 직원 수준의 접근 권한을 부여하겠다고 밝혔다.
한편 오픈AI는 AI 안전성 문제와 관련한 법적 공방에 잇따라 휘말리고 있다. 플로리다주는 지난 6월 오픈AI와 올트먼 CEO를 상대로
위험한 AI 제품을 고의로 출시해 이용자에게 피해를 입혔다며 소송을 제기했다. 이와 별도로 챗GPT 이용자에게 유해한 망상을 유발해 자살로 이어지게 했다는 의혹과 관련한 소송도 진행 중이다.