"이곳은 래블업의 세번째 테스트 DC(데이터센터)다. 엔비디아의 GPU(그래픽처리장치)와 델의 서버, 퓨리오사AI의 레니게이드가 들어와 있다. 국내 최초로 텐스토렌트의 갤럭시도 들였다. 빈자리에는 엔비디아 베라 루빈 등 최신 모델로 채워질 예정이다. 여기서 다양한 AI 반도체가 한 번에 잘 돌아가는지 확인한다."
서울 강남구 래블업 본사에서 만난 신정규 래블업 대표는 AI(인공지능) 인프라인 '백엔드닷AI(Backend.AI)' 등 자사 대표 솔루션을 시험하는 테스트 DC를 소개했다. 서로 다른 GPU와 NPU(신경망처리장치)만으로 구성된 테스트 DC에서는 반도체의 효율을 끌어올리고, 다양한 모델의 칩을 하나로 묶어 원활하게 사용할 수 있는지를 확인한다. 테스트 DC는 경기도 안양 평촌, 인천 부평에도 있다. 래블업의 솔루션을 통해 고객사들은 GPU 활용률을 30%에서 최대 85%까지 끌어올리고, GPU 예산도 40% 절감했다.
'수억 수천만원짜리' GPU, 30%밖에 활용 못한다? …래블업 쓰면 85%까지↑
래블업은 복잡한 AI 인프라를 효율적으로 운영하는 소프트웨어를 제공하는 소프트웨어 기업이다. 일반적인 AI 인프라 및 서버 환경에서는 GPU 활용도가 30~50% 수준에 불과한데, 래블업의 소프트웨어를 활용하면 효율성이 크게 개선된다. 비싼 GPU를 수천대 확보하더라도 제대로 쓰려면 래블업과 같은 별도 솔루션이 필수다. 엔비디아가 최근 GPU 운영 소프트웨어 기업 Run.ai를 인수한 것도 이 때문이다.
GPU를 직접 구매해 임대하는 네오클라우드 기업과 달리 이처럼 래블업은 고객이 보유한 GPU를 더 효율적으로 활용할 수 있도록 돕는다. 네오클라우드 기업이 얼마나 많은 GPU를 확보해 고객에게 제공하느냐를 경쟁력으로 삼는다면, 래블업은 GPU에서 얼마나 많은 연산 결과를 끌어내느냐에 집중한다. 래블업의 AI 인프라 통합 운용 플랫폼 백앤드닷AI는 GPU 효율을 최대 2.8배까지 개선해준다.
신 대표는 "최근 미국에서 네오클라우드 기업의 수익성에 대한 우려가 커지면서 AI 투자 심리가 악화됐는데, 래블업은 오히려 이들의 비용을 줄여주는 리스크 헷징 기업이다"고 설명했다.
실제 KT클라우드는 백엔드닷AI를 도입해 고객당 비용을 평균 60% 줄일 수 있었다. 정부 독자 AI 파운데이션 모델을 개발 중인 업스테이지 컨소시엄은 엔비디아 B200 GPU 500여개를 활용하는 학습 환경에서 백엔드닷AI로 사전학습 시간을 120일에서 66일로 단축했다.
이같은 기술력을 바탕으로 래블업은 국내외 대형 고객사와 파트너를 확보했다. 현재 120여개 사이트에서 래블업 제품을 사용하고 있으며 단일 사이트에서 2000개 이상의 GPU를 관리하고 있다. 주요 고객사로는 △삼성전자 △LG전자 △KT △신한은행 △NHN클라우드 △CJ △한국은행 △현대모비스 △대한항공 △대한민국 해군 △삼성서울병원 △ETRI(한국전자통신연구원) 등이 있다. △엔비디아 △AMD △인텔 △델 △마이크로소프트(MS) △AWS △에버퓨어 △리벨리온 △퓨리오사AI △텐스토렌트 등과는 파트너십을 맺었다. 특히 엔비디아와는 2018년부터 협력해왔으며, 2021년 아시아태평양 지역 최초로 DGX-Ready Software Partner 인증을 받기도 했다.
엔비디아부터 국산 NPU까지…서로 다른 칩도 하나처럼
래블업의 핵심 경쟁력은 '벤더 중립성'과 '풀스택'이다. 벤더 중립성은 특정 반도체 제조사나 클라우드 사업자에 종속되지 않는다는 의미다. 풀스택은 GPU 자원 관리부터 AI 모델 학습, 추론 등 AI 인프라 운영에 필요한 기능을 폭넓게 제공한다는 의미다. 래블업은 두 가지를 동시에 구현한 플랫폼이라는 점에서 경쟁력이 있다고 설명한다.
독자들의 PICK
지금 1,026명 읽는 중
래블업은 엔비디아를 비롯해 AMD, 인텔의 GPU는 물론 리벨리온, 퓨리오사AI 등의 NPU도 지원한다. 현재 11종 이상의 칩을 통합 운영할 수 있다. GPU나 NPU 등 AI 반도체는 제조사와 세대에 따라 성능과 전력 소모량, 작동 방식 등이 다르다. 같은 엔비디아 GPU를 탑재하더라도 델이나 HPE(휴렛팩커드 엔터프라이즈) 등 서버 제조사에 따라 냉각 구조나 운영 환경이 달라진다. 새로운 칩을 도입하거나 여러 세대의 GPU를 혼합해 사용할 때 기존 운영체계를 그대로 적용하기 어렵다.
래블업은 다양한 하드웨어를 직접 확보하고 최적화하면서 이같은 문제를 해결해봤다. 고객이 어떤 하드웨어를 어떻게 구성하더라도 이를 AI 클라우드로 전환시켜주는 것이다. 신 대표는 "예를 들어 A100을 다 써서 빼야 하는데, 이미 구형 모델이라 같은 모델을 구할 수도 없고 다른 모델을 넣으면 원활하게 돌아가지 않는데, 래블업을 사용하면 RTX프로 6000나 다른 회사 NPU를 넣어도 돌아간다"고 설명했다.
신 대표는 엔비디아가 인수한 Run.ai보다도 백엔드닷AI의 안정성이 더 높다고 강조한다. 그는 "Run.ai는 범용 컨테이너 관리 시스템인 쿠버네티스를 기반으로 GPU 자원을 관리하지만, 래블업은 자체 오케스트레이터인 소코반(Sokovan)을 이용하기 때문에 장애 복구나 속도 최적화가 빠르다"며 "GPU는 장애가 빈번하게 발생하는 만큼 빠르게 복구하고 안정적으로 운영하는 기술의 중요성이 커지고 있다"고 했다.
충성 고객 확보로 매출 우상향 …내년 해외 성과 가시화될 것
래블업의 수익모델은 소프트웨어 라이센스 판매다. 백엔드닷AI 엔터프라지 제품을 GPU 수량과 성능 등급 등에 따라 구독 방식으로 공급한다. 고객이 GPU를 추가로 도입하거나 고성능 제품으로 교체할수록 매출도 늘어난다. 래블업은 기존 고객 재계약 비율이 높은 점을 강점으로 꼽았다. 지난해 매출의 94.7%가 반복 매출이며, 최근 5년 평균 NRR(순매출유지율)은 137.9%다. NRR은 신규 고객을 제외하고 기존 고객의 매출이 얼마나 유지되거나 늘어났는지를 보여주는 지표다.
매출은 2023년 30억원, 2024년 59억원, 2025년 67억원으로 우상향 중이다. 올해 상반기 매출은 약 47억원으로 집계됐다. 첫 흑자전환은 2020년이었다. 이후 2024년부터 흑자 기조를 유지하고 있다. 지난해 영업이익은 7억원, 올해 상반기 영업이익은 약 6억원이다.
래블업은 미국·유럽·동남아·일본 등 해외 판매망 확대를 추진 중이다. 신 대표는 "내년 3~4월경 미국 등 해외 고객 매출 사례를 공개할 수 있을 것"이라고 밝혔다. 신제품도 출시되고 있다. 토큰 사용량 관리 최적화 솔루션인 컨티넘(Continuum)은 최근 첫 고객을 확보해 매출이 발생했다. 아울러 자체 테스트 DC를 외부에도 제공하는 '래블업 토큰팩토리 스위트'도 내년 초 선보일 예정이다.
래블업은 다음달 3일 코스닥 시장에 상장한다. 지난 22~23일 진행한 일반투자자 대상 공모주 청약에서 3.55대 1의 경쟁률을 기록했다. 앞선 기관 수요예측에서는 284.53대 1의 경쟁률을 기록했고 공모가는 1만9000원으로 확정했다.
