KT(44,700원 ▼1,000 -2.19%)가 여러 AI(인공지능) 모델을 한곳에서 이용하고 사용량에 따라 요금을 내는 플랫폼을 선보인다. 오는 30일 73개 모델로 서비스를 시작해 11월에는 500개 이상으로 확대한다. 자체 기술로 AI 이용 비용을 최대 25% 줄인다는 목표다.
KT는 27일 서울 종로구 광화문 웨스트 빌딩에서 기자간담회를 열고 AI 플랫폼 'KT 토큰팩토리'를 공개했다. 여러 AI 모델을 하나의 API(응용프로그램 인터페이스)로 연결하고 모델 선택부터 사용량 확인, 비용 관리, 결제까지 통합 제공하는 서비스다.
최근 기업들은 번역과 요약, 코딩, 추론 등 업무에 따라 서로 다른 AI 모델을 활용한다. 그러나 모델마다 별도로 가입하고 비용을 관리해야 하는 부담이 커지고 있다.
박상원 KT AX사업부문장(전무)은 "GPU를 효율적으로 활용하고 적절한 AI 모델을 선택해 토큰을 저렴하게 생산해야 한다"며 AI 인프라부터 모델, 에이전트까지 비용 효율성을 높이는 것이 중요하다고 강조했다.
출시 초기에는 KT가 국내 데이터센터에서 직접 제공하는 7개 모델을 포함해 총 73개 모델을 이용할 수 있다. 국내에서 구동되는 모델에는 KT 자체 모델과 업스테이지, 모티프테크놀로지스 등의 모델이 포함된다. 11월에는 글로벌 AI 모델 유통 플랫폼 오픈라우터와 연계해 500개 이상으로 확대한다.
요금제는 스탠다드와 엔터프라이즈 두 종류다. 스탠다드는 토큰 사용량에 따라 요금을 내는 종량제로, 선불 크레딧과 후불 결제를 지원한다. 엔터프라이즈는 사용 규모와 약정 기간에 따라 할인 혜택을 제공하며 전용회선과 SLA(서비스수준협약) 등 맞춤형 기능도 지원한다.
이진영 KT AX사업본부장은 "스탠다드 요금제는 사용한 만큼 후불로 정산하는 방식을 기본으로 제공한다"며 "내년 3월에는 개인 개발자와 일반 이용자도 토큰팩토리를 이용할 수 있도록 서비스를 확대하고 구독형 요금제도 출시할 계획"이라고 말했다.
비용 절감에는 KT가 자체 개발한 '오토 모델 라우터'와 프롬프트 압축 기술이 활용된다. 질문의 난이도와 요구 품질에 따라 적합한 AI 모델을 자동 선택하고 불필요한 입력 내용을 줄이는 방식이다. KT는 내부 시험에서 프롬프트 압축으로 약 20%, 저렴한 모델로의 자동 전환으로 약 5%의 비용 절감 효과를 확인했다고 설명했다.
데이터 보안도 강화했다. KT는 국내 데이터센터에서 직접 운영하는 7개 모델에 데이터 비저장·비학습 원칙을 적용한다. 개인정보와 민감정보, 유해 표현을 탐지하는 자체 가드레일 기술도 제공한다.
독자들의 PICK
지금 7,376명 읽는 중
KT는 AI 모델 중개 수수료보다 자체 인프라를 활용한 수익 창출에 무게를 두고 있다. 이 본부장은 "글로벌 AI 모델 중개 사업자들은 통상 5% 정도의 수수료를 받지만 KT의 주력 수익 모델은 수수료가 아니다"라며 "자체 데이터센터의 GPU(그래픽처리장치)로 AI 모델을 직접 구동해 수익을 확보할 계획"이라고 밝혔다.
KT는 토큰팩토리를 통신회선과 프라이빗 클라우드 등 기존 기업용 서비스와 결합할 계획이다. 현재 일부 기업과 사전 도입을 준비하고 있으며 고객사는 향후 공개할 예정이다.
