[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.]
AI 모델 경량화·최적화 기업 노타가 세계적 머신러닝 학회 ICML 2026의 'Efficient Qwen Competition' 부문에서 3위를 차지했다고 13일 밝혔다.
이 대회는 오픈소스 LLM Qwen3.5-4B을 단일 엔비디아 A10G GPU에서 실행하며 성능은 유지한 채 답변 속도를 얼마나 높이는지 겨루는 자리다. 전 세계 40여 개 팀이 참가했고, 노타는 평균 6.978배 빠른 추론 성능으로 3위에 올랐다.
노타는 자체 양자화 기술로 메모리·연산량을 줄이고, 초안 모델이 답변 후보를 만든 뒤 본 모델이 검증하는 추측적 디코딩을 결합해 속도를 끌어올렸다. 여기에 슬라이딩 윈도우 어텐션 기법을 더해 불필요한 연산도 줄였다.
노타는 이번 대회가 열린 AdaptFM 워크샵에서 MoE(Mixture of Experts) 구조 LLM 양자화 관련 논문 2편도 채택됐다. 앞서 엔비디아 네모트론 해커톤에서는 트랙·종합 우승을 거둔 바 있다.
김태호 노타 CTO 겸 공동창업자는 "글로벌 AI 생태계에서 널리 쓰이는 큐웬을 대상으로 노타의 추론 최적화 기술력을 검증받은 사례"라며 "온디바이스·엣지 AI 환경으로 최적화 기술을 확대 적용하겠다"고 말했다.