정부가 공무원 업무용 범정부 AI 공통기반에 적용된 중국 베이징인공지능연구원(BAAI)의 AI 모델 'BGE-M3'를 다른 모델로 교체하는 방안을 검토 중인 것으로 확인됐다. 현재 보안 문제가 발견된 것은 아니지만, 외산 AI를 공공 영역에서 사용하는 데 대한 우려와 기술 고도화 필요성이 맞물리면서 대안을 찾는 것으로 풀이된다.
3일 관련 업계에 따르면 정부는 BGE-M3를 대체할 모델의 성능과 지원 언어, 기존 시스템과의 호환성, 기술지원 가능성 등을 살펴보고 있다. 정부는 성능과 활용성, 보안성 등을 종합적으로 따져 BGE-M3의 교체 여부와 대체 모델을 결정할 예정이다.
BGE-M3는 챗GPT처럼 답변을 직접 만들어내는 거대언어모델(LLM)이 아니다. 문장의 의미를 수치화해 관련 문서를 찾아주는 '임베딩 모델'이다. 공무원이 AI에 질문했을 때 답변에 필요한 자료를 찾는 검색 과정에 쓰인다.
정부는 다국어 검색 성능과 오픈소스 활용성 등을 고려해 BGE-M3를 도입한 것으로 알려졌다. 범정부 AI 공통기반은 외부 인터넷과 분리된 환경에서 운영된다. 현재까지 BGE-M3 자체의 보안 문제도 확인되지 않았다.
BAAI가 미국 상무부의 수출통제 대상인 'Entity List'에 올라 있다는 점도 논란이 됐다. 다만 한국 정부가 공개된 오픈소스 모델을 사용하는 것까지 직접 금지하는 것은 아니다.
그럼에도 정부가 모델 교체를 검토하는 배경에는 중국산 AI를 공공 영역에서 사용하는 데 대한 우려가 있다. 지난달 국정감사에서는 범정부 AI 공통기반에 탑재된 11개 모델 가운데 7개가 해외 모델이고 BAAI 모델까지 포함돼 있다는 지적이 나왔다. 정부가 독자 AI 파운데이션 모델을 육성하면서 정작 공무원용 AI에는 중국 모델을 사용한다는 문제 제기였다.
정부가 육성 중인 독자 AI 모델로 BGE-M3를 교체하기는 어려운 상황이다. 독자 AI 모델은 답변을 생성하는 LLM인 반면 BGE-M3는 문서를 검색하는 임베딩 모델이어서다. 역할이 다르다.
전문가들은 현재 문제가 발견되지 않았더라도 공공 시스템에 외부 AI 모델을 적용할 때는 공급망 위험을 따져볼 필요가 있다고 지적한다. 이만희 한남대 컴퓨터공학과 교수는 "폐쇄망이라도 공급망 이슈는 항상 있을 수 있다"며 "보안성 문제가 없다고 할 때 어느 수준까지 검증해 문제가 없다고 판단한 것인지는 따져볼 필요가 있다"고 말했다.
AI 모델은 일반 소프트웨어보다 내부에 숨은 백도어나 오염 여부를 찾아내기 더 어렵다는 설명이다. 이 교수는 "현재 식별된 위험이 없더라도 국가 안보와 관련된 영역에서는 만일의 가능성까지 고려해 보수적으로 접근할 필요가 있다"고 했다. 다만 해외 모델을 모두 배제하는 것도 현실적이지 않다는 지적이다. 이 교수는 "지금은 위험성과 활용에 따른 이익 사이에서 판단해야 하는 상황"이라며 "어떤 기관이 어떤 데이터를 처리하는지에 따라 필요한 보안조치를 달리하면서 활용해야 한다"고 설명했다.