[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.]
AI(인공지능) 에이전트 스타트업 라이너가 AI 오케스트레이션 솔루션 '라이너 모델 API(Liner Model API)'를 출시했다고 15일 밝혔다.
라이너 모델 API는 고성능 모델의 답변 품질을 유지하면서 LLM(거대언어모델) 토큰 비용은 50% 이상 절감할 수 있도록 설계된 제품이다. 복잡한 로직 구현 없이 기존 API 교체만으로 즉시 적용 가능하다.
현재 AI 시스템을 구축하는 대부분의 기업은 답변 품질을 위해 고가의 프런티어급 모델 하나로 모든 사용자 질문을 일괄 처리한다. 실제 유입되는 질문 난이도는 제각각인데도 모두 상위 모델로 처리하다 보니 불필요한 인프라 비용이 급증한다.
라이너는 저비용 경량 모델의 품질 문제와 프런티어급 모델의 높은 도입 비용 사이에서 고민하는 기업들에 주목했다. 상위급 모델 수준의 답변 정확도를 유지하면서도 토큰 비용을 절감해 인프라 부담을 낮춘다는 것이 제품의 목표다.
라이너 관계자는 "성능과 비용 효율을 동시에 잡는 열쇠는 정밀 오케스트레이션 기술"이라며 "이 기술은 어떤 모델이 어떤 질문에 강한지를 정확히 측정하는 데서 출발한다. 라이너는 독자적 모델 평가 체계와 실사용 환경에서 축적한 성능 검증 경험을 보유했다"고 말했다.
라이너는 그동안 △라이너 검색(Liner Search) △라이너 스콜라(Liner Scholar) △라이너 라이트(Liner Write) △라이너 파이낸스(Liner Finance) 등 다양한 AI 에이전트 제품을 직접 운영하며 서로 다른 LLM들을 다각도로 평가해 왔다.
자체 데이터 평가 결과 고성능 모델로 배정된 질의의 비중은 약 43%로 나타났다. 코딩과 수학, 복합 추론이 필요한 고난도 질의는 상위 모델로 배정해 정확도를 끌어올리고 나머지 57%의 일반 질의는 효율적인 모델로 배분해 정답률 손실 없이 비용을 줄였다는 설명이다.
성능 검증에는 비식별 처리된 대표 질의 데이터셋을 활용했다. 라이너는 일상적 탐색부터 업무 처리, 학술 연구에 이르는 이용 패턴을 종합 분석해 모델 배정 알고리즘을 최적화했다.
독자들의 PICK!
김진우 라이너 대표는 "모든 질문을 상위 모델로만 처리하는 방식은 간단한 계산에 매번 슈퍼컴퓨터를 동원하는 것과 같다"며 "기업들이 비용 부담과 모델 선택의 피로감에서 벗어나 핵심 업무 혁신에만 몰입할 수 있는 환경을 만들겠다"고 강조했다.
[머니투데이 스타트업 미디어 플랫폼 '유니콘팩토리']
