[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 ‘데이터랩’에서 볼 수 있습니다.]
LLM(거대언어모델) 추론 특화 반도체 팹리스 하이퍼엑셀이 네이버클라우드와 1세대 반도체 '베르다(Bertha)'의 본격적인 PoC(기술검증)에 들어갔다. 하이퍼엑셀은 연내 PoC 규모를 랙 단위로 확대하고 일본 등 해외에서의 PoC도 진행한다는 계획이다.
김주영 하이퍼엑셀 대표는 27일 서울시 강남구 서울AI허브에서 'K-클라우드 테크데이'를 열고 정보통신기획평가원(IITP)과 함께하는 'K-클라우드 기술 개발 사업' 현황을 공개했다. 리벨리온, 파네시아, 망고부스트, 래블업, 스퀴즈비츠, 네이버클라우드, 카이스트 등이 함께하는 국책 R&D(연구개발)로 하이퍼엑셀은 연구주관기관을 맡았다.
김 대표는 "올해 3월 베르다를 받아 브링업(반도체 구동작업)하고 서버 단위의 PoC를 시작했다"고 말했다. 베르다는 LLM추론에 특화된 AI반도체다. 삼성전자 4나노 공장에서 생산된다. GPU(그래픽처리장치)나 NPU(신경망처리장치)가 HBM(고대역폭메모리)을 쓰는 것과 달리, 스마트폰에 주로 쓰이는 LPDDR(저전력D램)을 쓰면서도 엔비디아의 중상급 GPU인 RTX6000 등과 대등한 성능을 내는 것이 특징이다.
LPDDR 탑재 덕분에 베르다의 전력소모는 3분의1 수준에 그친다. LPDDR 자체가 저렴해 제품값도 RTX6000 대비 4분의1에 그친다. LPDDR의 느린 속도는 아키텍처로 극복했다. 메모리와 지속적으로 데이터를 주고받는 GPU와 달리 데이터를 한 방향으로 흘려보내는 아키텍처를 개발해 느린 메모리로도 빠른 연산 속도를 달성했단 설명이다.
하이퍼엑셀은 이날 실측 성능도 공개했다. 베르다 4장으로 알리바바의 'Qwen3-32B' 모델을 구동한 결과, 엔비디아 RTX6000 대비 처리 성능이 약 40% 높았다. 전력 대비 성능과 가격 대비 성능은 각각 3.7배였다. 김 대표는 "칩 단가가 낮아 같은 예산으로 더 많은 카드를 넣는 구성도 가능하다"고 말했다.
하이퍼엑셀은 앞으로 PoC를 지속적으로 확대해간다는 계획이다. 최근 하이퍼엑셀에 전략적 투자를 결정한 크래프톤, 일본 데이터센터 기업과의 실증 등도 예고돼 있다.
K-클라우드 기술 개발 사업을 통해서도 앞으로 본격적인 PoC가 시작될 예정이다. 올해 2년차에 접어든 R&D 사업으로, 내년부터는 각 참여기업들이 개발한 기술과 부품 등을 서버 하나로 통합하고 추론용·학습용 AI반도체와 CXL(컴퓨트익스프레스링크)메모리 등을 각각 자원으로 묶는 '컴포저블 클러스터'를 구현할 계획이다.
김 대표는 "내년부터 하이퍼엑셀의 베르다, 리벨리온의 학습용 NPU, 파네시아의 CXL메모리, 망고부스트의 DPU시스템, 래블업의 인프라 소프트웨어를 하나의 서버에 합쳐서 서비스하는 게 목표"라며 "모든 국산 AI 반도체를 결집해 효과적으로 서비스할 수 있는 K-클라우드 인프라를 만들어갈 것"이라고 말했다.
