KT가 12월 선보이는 '모두의 AI'에 여러 국산 AI(인공지능) 모델을 용도별로 활용한다. 하나의 거대언어모델(LLM)에 의존하지 않고 이용자의 질문과 목적에 따라 가장 적합한 모델을 골라 연결하는 방식이다. 국산 NPU(신경망처리장치)까지 결합해 AI 모델부터 반도체까지 국내 생태계를 아우르는 구조를 구축한다.
KT는 자사를 중심으로 업스테이지, 모티프, NC AI, 솔트룩스, 리벨리온 등이 참여하는 '모두의 AI' 컨소시엄은 이 같은 멀티모델 전략을 추진하고 있다고 7일 밝혔다. 핵심은 여러 AI 모델이 각자의 강점에 따라 역할을 나눠 맡는 것이다.
업스테이지는 솔라 계열 모델을 제공한다. 고성능 모델인 '솔라 프로 4'와 상대적으로 가벼운 '솔라 미니 4' 등을 용도에 따라 활용한다. 모티프와 NC AI의 파운데이션 모델도 각각 특화된 영역에서 쓰인다. KT 자체 옴니 모델과 솔트룩스의 '루시아'까지 포함해 총 5개 계열 모델을 활용하는 구조다.
어떤 모델을 사용할지는 KT의 '토큰 팩토리'가 결정한다. 이용자가 질문을 입력하면 질문의 난도와 성격 등을 분석해 가장 적합한 AI 모델로 연결한다. 모든 질문을 대형 모델로 처리하는 대신 간단한 작업에는 경량 모델을 활용해 비용과 응답 시간을 줄이는 식이다. 토큰 팩토리는 입력 토큰 절감과 AI 모델 서빙 효율화 등의 역할도 맡는다.
AI 모델을 구동하는 하드웨어에도 국산 기술을 적용한다. KT의 AI 모델은 리벨리온의 NPU에 최적화해 구동한다. 외산 GPU(그래픽처리장치) 의존도를 낮추면서 국산 AI 모델과 AI 반도체를 함께 활용하는 구조를 만들겠다는 구상이다.
'모두의 AI'는 단순히 질문에 답하는 AI를 넘어 이용자가 원하는 작업을 실제로 수행하는 AI 에이전트를 지향한다. 검색 결과를 보여주는 데 그치지 않고 예약이나 신청, 정보 확인 등 실제 서비스 실행까지 연결하는 것이 목표다.
KT 컨소시엄은 12월 '모두의 AI'를 정식 서비스할 예정이다. 향후 검색·쇼핑·금융·부동산·교육 등 다양한 생활 서비스와 연결해 이용자가 기존에 사용하던 서비스 안에서 AI를 활용할 수 있도록 한다는 계획이다.