LG유플러스(15,550원 ▲480 +3.19%)가 AI(인공지능) 코딩 도구의 운영 비용을 최대 90% 줄이는 기술을 확보하고 내년부터 기업용 AI 비용 절감 사업에 나선다. AI 모델의 크기를 줄이고 작업에 따라 서로 다른 모델과 반도체를 활용하는 방식으로 기업의 AI 도입 부담을 낮추겠다는 구상이다.
LG유플러스는 12일 'AI 토큰 최적화'와 과련 기자 스터디를 열고 자체 기술 검증 결과와 2027년 사업화 계획을 공개했다. 토큰은 AI가 텍스트를 처리하는 기본 단위로, 사용량이 늘어날수록 서비스 운영 비용도 증가한다.
LG유플러스가 자체 검증한 결과 코딩 영역에서 자체 AI 모델을 활용하면 통상적으로 사용하는 모델 대비 운영 비용을 약 90% 줄일 수 있는 것으로 나타났다. AI 모델의 연산 처리 방식을 개선해 동일한 인프라에서 처리 효율을 최대 4배 높이는 성과도 확인했다.
여러 AI 모델 중 작업에 적합한 모델을 선택하는 '모델 라우팅' 기술도 개발했다. 내부 테스트에서는 일반적인 질문 처리 비용을 25% 이상, 코딩 에이전트 비용을 30% 이상 절감했다. 복잡한 작업에는 고성능 모델을 사용하고 간단한 작업은 상대적으로 가벼운 모델에 맡기는 방식이다.
LG유플러스는 AI 통화 에이전트 '익시오', AI 컨택센터(AICC), 사내 업무 자동화 등에 이 같은 최적화 기술을 적용하고 있다. 익시오의 경우 초기에는 LG AI연구원의 온디바이스 모델과 구글 제미나이를 병행했으나 이후 자체 모델과 엑사원 등의 활용 비중을 조정해 비용 효율을 높였다. 연말 상용화를 추진하는 카카오와의 협력 서비스 '모두의 AI'에서도 AI 모델 운영을 담당한다.
AI 모델 자체를 경량화하는 연구도 진행 중이다. 자체 온디바이스 AI 모델 크기를 기존 2.4~3GB에서 약 800MB로 줄이면서 비교 대상 클라우드 모델 대비 95% 이상의 성능을 확보했다. 작은 모델이 답변을 생성하고 큰 모델이 이를 검증하는 기술을 통해 토큰 생성 속도도 2배 이상 높였다. 관련 연구 논문 2편은 글로벌 AI 학술대회 '뉴립스(NeurIPS)'에 채택됐다.
AI 반도체도 다변화한다. 엔비디아와 AMD의 GPU(그래픽처리장치)뿐 아니라 퓨리오사AI의 NPU(신경망처리장치)를 활용하는 방안을 검증하고 있다. 작업 특성에 따라 서로 다른 반도체에 연산을 분산해 인프라 비용을 낮추기 위해서다.
독자들의 PICK
지금 2,980명 읽는 중
LG유플러스는 내년부터 협력사와의 제휴 및 자체 인프라 구축을 통해 기업용 AI 비용 절감 사업을 추진할 계획이다. 단순히 토큰당 가격을 낮추는 데 그치지 않고 AI가 하나의 업무를 완료하는 데 드는 전체 비용을 줄이는 것이 목표다.
이상엽 LG유플러스 CTO(최고기술책임자)는 "AI 시장의 패권은 누가 더 큰 모델을 만드느냐를 넘어 고객이 원하는 비즈니스 결과를 얼마나 정교하고 경제적으로 완수하느냐로 이동했다"며 "AI 에이전트가 확산될수록 모델 단가가 아무리 저렴해도 불필요한 검색과 분석을 반복하면 전체 비용은 눈덩이처럼 불어나기 때문"이라고 설명했다.
