LG유플러스의 토큰 최적화 기술이 세계 최고 권위 AI(인공지능) 학회에 소개됐다. 토큰 최적화 기술은 AI의 응답속도를 높이고 배터리 소모를 줄이는 데 쓰인다.
LG유플러스는 AI 토큰 최적화 연구 관련 논문 2편이 세계 3대 AI학회 중 하나인 '뉴립스(NeurIPS, Neural Information Processing Systems) 2026'의 온디바이스 인텔리전스(On-Device Intelligence) 워크숍에 채택됐다고 29일 밝혔다.
LG유플러스는 토큰 최적화 기술을 스마트폰 환경에 적용, 제한된 메모리와 전력으로 소형언어모델(sLM)을 효율적으로 실행하고 학습하는 방법을 연구했다. 통화 서비스에 활용할 소형언어모델(sLM)을 개발하고 모델 경량화와 추론 가속 기술 등으로 스마트폰 환경에 맞게 최적화했다는 게 회사 측의 설명이다. 그 결과 기존 방식보다 처리 속도를 약 4.5배 높이고 배터리 소모는 약 77% 줄였다.
LG유플러스는 또 개인 데이터를 외부로 보내지 않고 스마트폰 안에서 AI를 직접 학습하는 기술도 연구했다. AI 학습에 필요한 연산과 메모리 사용을 효율화해 추가 학습 과정을 스마트폰 내부에서 진행한 결과, 개인 데이터를 기기 밖으로 보내지 않고도 서버에서 학습한 것과 같은 수준의 정확도를 보였다.
이상엽 LG유플러스 CTO는 "이번 뉴립스 논문 채택은 제한된 환경에서도 AI를 빠르고 효율적으로 실행하고 학습하기 위한 연구 성과를 인정받은 것"이라며 "고객이 AI 서비스를보다 빠르고 편리하게 이용할 수 있도록 관련 기술을 실제 서비스에 적용하고 향후 서버 환경까지 연구 범위를 확대해 나가겠다"고 말했다.