인공지능(AI) 주도권을 두고 경쟁하는 미국 오픈AI, 앤스로픽, 구글이 중국 AI 기업들의 기술 무단 추출을 막기 위해 이례적으로 손을 맞잡았다.
6일(현지시간) 블룸버그통신에 따르면 오픈AI와 앤스로픽, 구글은 2023년 마이크로소프트(MS)와 공동으로 설립한 비영리단체 '프런티어 모델 포럼'을 통해 정보를 공유하며 '적대적 증류' 시도를 탐지하고 있다. 사이버 보안업계가 해킹 수법을 공유하듯 중국 기업들이 사용하는 '적대적 증류' 패턴과 수법을 빅테크들이 공유하는 것이다.
적대적 증류란 남이 막대한 비용을 들여 개발한 AI에 계속 질문을 해서 답을 모든 뒤 그걸로 자사 AI를 훈련시키는 추출 기술을 의미한다. 이렇게 하면 '스승'이 된 타사 AI의 능력을 비슷하게 흉내 내는 '제자' AI 모델을 만들 수 있다.
증류는 자사가 만든 무거운 모델을 가볍고 효율적으로 만들 때 널리 사용되는 기술이지만, 이를 상대방의 허락 없이 사용할 때는 적대적이란 표현이 붙는다. 여기엔 법적·윤리적 논란이 발생할 수 있다.
미국 AI 기업들은 중국을 비롯한 일부 사용자들이 자사 모델을 모방한 AI 모델을 제작해 낮은 가격으로 시장을 잠식해 고객을 빼앗아 가는 동시에 국가 안보 위험을 초래할 수 있다고 우려해왔다. 미국 정부는 이러한 무단 추출 행위가 실리콘밸리 기업들의 연간 이익에 수십억달러의 손실을 초래하고 있다고 추산하는 것으로 전해졌다.
지난해 중국의 딥시크는 저비용으로 고성능 AI 모델 R1을 내놓으면서 시장에 파문을 던졌는데, 오픈AI는 R1 개발 과정에서 적대적 증류가 활용됐을 것으로 의심하고 있다. 또 앤스로픽은 딥시크 외에도 문샷, 미니맥스 등을 적대적 증류 기업으로 지목하고 자사 AI 모델인 클로드 사용을 차단했다. 앤스로픽은 지난 2월 이들이 약 2만4000개의 허위 계정을 동원해 1600만건 이상의 대화를 생성, 기술을 추출했다고 지적했다.
