인공지능(AI) 스타트업이 대형언어모델(LLM)의 고질적 한계인 '컴퓨팅 비용'과 '응답 지연 문제'를 개선할 경량화 기술을 내놨다.
브레인데크(대표 정여름)는 LLM의 구조적 중복성을 전역적 그래프 관점에서 재해석한 'FCM(Fusion via Community Mining)' 기술이 AI 분야 세계 최고 권위 학회인 'NeurIPS(신경정보처리시스템학회) 2026'에 선정됐다고 5일 밝혔다.
업체에 따르면 기존 LLM 압축 방식은 인접한 블록끼리 묶거나 연속된 하위 계층을 잘라내는 등 계층 간 중복성이 순차적이라는 가정이 주를 이뤘다. 반면 브레인데크 연구팀이 6개 아키텍처 가족군의 주요 LLM(1.6B~14B 파라미터) 13개를 전수 분석한 결과, 비인접 계층 간 고유사도 쌍이 인접 계층 쌍보다 3.6배에서 최대 15.9배 더 많은 것으로 나타났다. 기존 인접 중심 압축 방식으로는 모델의 핵심 기능적 단계를 누락할 수 있다는 분석이다.
FCM은 비인접 중복성 네트워크를 활용, △유사도 프로파일링 △그래프 기반의 스펙트럼 군집화 △핵심 계층 대표 잔류 △LoRA(저순위 적응) 복구 등을 거친다. 2배 압축 환경에서 WikiText-2 퍼플렉서티 기준 FCM은 기존 압축 기법(ShortGPT) 대비 12개 모델에서 상위 성능을 기록했다고 업체 측은 말했다.
브레인데크 관계자는 "플래튼GPT, SWM, 델타LLM 등과 비교한 성능 평가에서도 대다수 테스트 모델에서 1위를 기록했다"며 "Qwen2.5-7B 모델에 FCM을 적용해 2배 깊이 압축을 수행한 결과 파라미터 수와 피크 VRAM 사용량이 각각 46%·42% 감소했으며 단일 NVIDIA A100 기준 디코드 처리량은 84% 급증했다"고 말했다. 이어 "또한 MMLU, 상식 추론, 코드 합성 등 광범위한 다운스트림 벤치마크에서도 복원력을 입증했다"고 덧붙였다.
아울러 FCM 기술은 전면적 재학습 없이 소량의 데이터 프로파일링과 가벼운 LoRA 복구만으로 구동되는 게 특징이다. 고비용 클라우드 서버를 비롯해 디지털 의료기기(SaMD), 음성 재활·헬스케어 등 하드웨어 스펙이 제한된 온디바이스 AI 환경에도 적합하는 설명이다.
브레인데크는 이번 FCM 기술의 핵심 알고리즘과 비인접 계층 융합 아키텍처에 대한 소스 코드를 전명 공개했다. 회사에 따르면 이는 글로벌 기술 표준을 선점하기 위한 조치다.