중국 인공지능(AI) 기업들이 미국 AI 기업 앤트로픽의 생성형 AI 모델 '클로드'를 대규모로 활용해 자사 모델을 개발하려 한 정황이 드러났다. 소수 민족과 반체제 인사들을 감시하기 위해 AI를 사용하기도 했다는 주장도 제기됐다.
앤트로픽이 10일(현지시간) 공개한 위협정보 보고서에 따르면 중국 AI 기업 문샷AI 등 중국 AI 기업들이 클로드를 무단으로 이용해 자사 모델의 성능을 끌어올리는 이른바 '증류'를 시도한 사례를 공개했다. 문샷은 지난 5∼7월 수천 개의 가짜 계정을 동원해 클로드와 2300만건 이상 교신한 것으로 파악됐다.
이용자가 키미에 질문하면 문샷은 이를 중국 밖의 중개업체가 만든 가짜 앤트로픽 계정을 통해 클로드에 보내 답변을 받아냈다. 중개업체들은 가짜 신원과 도난·위조 신용카드, 탈취한 API(응용프로그램 인터페이스) 키 등을 이용해 앤트로픽 계정을 대량으로 만들어 중국 AI 업체들이 클로드를 이용할 수 있도록 했다. '환승역'으로 불리는 중개 서비스를 통해 자사 이용자들의 질의 수백만건을 클로드에 전달하는 방식이다.
'증류'는 상대적으로 성능이 뛰어난 AI 모델의 응답을 대규모로 수집해 다른 AI 모델의 학습에 활용하는 기법이다. 클로드의 성능을 자사 모델에 옮겨 심기 위한 방법이다. 증류 자체는 AI 업계에서 널리 쓰이지만 경쟁사의 허락 없이 가짜 계정을 대량으로 만들어 답변을 빼내 학습에 활용하는 것은 무단 복제 논란이 있다.
클로드가 해킹이나 생물학 연구 등에 악용이 우려된 사례도 있었다. 지난 5월에는 한 과학자가 군사 연구기관에서 진행할 치쿤구니야 바이러스의 돌연변이 연구를 위해 클로드를 이용했다. 이 과학자는 살아있는 동물에 바이러스를 반복적으로 감염시켜 유해성을 더욱 높이는 연구를 추진한 것으로 전해졌다. 또한 클로드 사용이 제한되는 지역에 거주하는 한 연구자는 조류인플루엔자 관련 실험을 추진하기도 했다.
생물학 분야 외에도 총기와 미사일, 무장 드론 등 재래식 무기의 설계·개발이나 반체제 인사 감시 등에 AI가 이용된 사례도 공개됐다. 중국에서 3건, 러시아에서 2건, 예멘에서 1건의 재래식 무기 관련 악용 사례가 확인됐다. 반체제 인사와 해외 거주자를 감시하기 위해 AI를 악용한 사례도 있었다. 보고서는 이러한 감시 활동이 "과거 이들 정권이 표적으로 삼았던 것과 동일한 디아스포라 및 반체제 공동체를 겨냥했다"며 "홍콩의 민주화 운동가와 해외의 이란 소수민족 공동체와 이란 정권 반대자들이 포함된다"고 밝혔다.
이 밖에도 러시아 국가 배후 해킹 조직이 우크라이나 정부·군·외교기관을 공격하거나 프랑스인 해커가 신상정보 유출 사이트를 운영하고, 튀르키예 기업이 말레이시아 선거 여론조작에 관여하는 과정에서 AI가 활용된 사례 등이 보고서에 담겼다.
