정부, 'BGE-M3' 교체 검토
공공영역에 외산 사용 우려
기술고도화 필요성 등 이유
"현재 식별된 위험 없더라도
안보영역 보수적 접근 필요"
정부가 공무원 업무용 범정부 AI(인공지능) 공통기반에 적용된 중국 베이징인공지능연구원(BAAI)의 AI모델 'BGE-M3'를 다른 모델로 교체하는 방안을 검토 중인 것으로 확인됐다. 현재 보안문제가 발견된 것은 아니지만 외산 AI를 공공영역에서 이용하는 데 대한 우려와 기술고도화 필요성이 맞물리면서 대안을 찾는 것으로 풀이된다.
3일 관련업계에 따르면 정부는 BGE-M3를 대체할 모델의 성능과 지원언어, 기존 시스템과의 호환성, 기술지원 가능성 등을 살펴본다. 정부는 성능과 활용성, 보안성 등을 종합적으로 따져 BGE-M3의 교체 여부와 대체모델을 결정할 예정이다.
BGE-M3는 챗GPT처럼 답변을 직접 만들어내는 LLM(거대언어모델)이 아니다. 문장의 의미를 수치화해 관련 문서를 찾아주는 '임베딩 모델'이다. 공무원이 AI에 질문했을 때 답변에 필요한 자료를 찾는 검색과정에 쓰인다.
정부는 다국어 검색성능과 오픈소스 활용성 등을 고려해 BGE-M3를 도입한 것으로 알려졌다. 범정부 AI 공통기반은 외부 인터넷과 분리된 환경에서 운용된다. 현재까지는 BGE-M3 자체의 보안문제도 확인되지 않았다.
BAAI가 미국 상무부의 수출통제 대상인 '엔티티 리스트'(Entity List·수출통제 리스트)에 올라 있다는 점도 논란이 됐다. 다만 한국 정부가 공개된 오픈소스 모델을 이용하는 것까지 직접 금지하는 것은 아니다.
그럼에도 정부가 모델 교체를 검토하는 배경에는 중국산 AI를 공공영역에서 이용하는 데 대한 우려가 있다. 지난달 열린 국정감사에서는 범정부 AI 공통기반에 탑재된 11개 모델 가운데 7개가 해외모델이고 BAAI 모델까지 포함됐다는 지적이 나왔다. 정부가 독자 AI 파운데이션 모델을 육성하면서 정작 공무원용 AI에는 중국 모델을 사용한다는 문제 제기였다.
정부가 육성 중인 독자 AI모델로 BGE-M3를 교체하기는 어려운 상황이다. 독자 AI모델은 답변을 생성하는 LLM인 반면 BGE-M3는 문서를 검색하는 임베딩 모델로 역할이 서로 다르기 때문이다.
전문가들은 현재 문제가 발견되지 않았더라도 공공시스템에 외부 AI모델을 적용할 때는 공급망 위험을 따져볼 필요가 있다고 지적한다. 이만희 한남대 컴퓨터공학과 교수는 "폐쇄망이라도 공급망 이슈는 항상 있을 수 있다"며 "보안성 문제가 없다고 할 때 어느 수준까지 검증해 문제가 없다고 판단한 것인지는 따져볼 필요가 있다"고 말했다.
AI모델은 일반 SW(소프트웨어)보다 내부에 숨은 백도어나 오염을 찾아내기 더 어렵다는 설명이다. 이 교수는 "현재 식별된 위험이 없더라도 국가안보와 관련된 영역에서는 만일의 가능성까지 고려해 보수적으로 접근할 필요가 있다"고 했다. 다만 해외모델을 모두 배제하는 것도 현실적이지 않다는 지적이다.
