[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 ‘데이터랩’에서 볼 수 있습니다.]
AI(인공지능) 반도체 개발 스타트업 리벨리온이 차세대 NPU(신경망처리장치) '리벨100'이 탑재된 서버 '리벨서버'에서 SK텔레콤의 AI 모델 'A.X K1'을 구동시키는 데 성공했다고 23일 밝혔다.
'리벨서버'는 리벨리온이 개발 중인 NPU 리벨100이 탑재된 서버 제품이다. 리벨100은 리벨리온 최초의 HBM(고대역폭메모리) 활용 NPU로, FP16(16비트 부동소수점) 연산에서 1페타플롭스(1초에 1000조번 연산)의 성능을 기록하고 있다. 삼성전자 파운드리 4나노 공정에서 생산된다.
구동에 성공한 K1은 5000억(500B)개 이상의 매개변수를 가진 AI 모델이다. 리벨리온 측은 단일 서버 구성만으로 고성능 GPU(그래픽처리장치) 서버에 준하는 서빙 효율을 보여줬다고 설명했다.
특히 리벨리온 자체 소프트웨어 최적화를 통해 AI 모델의 글로벌 표준이 되고 있는 MoE(전문가 혼합) 방식의 효율성을 극대화했다고 강조했다.
리벨리온 측은 "다양한 종류의 연산을 반도체 칩에 효율적인 방식으로 나누어 병렬 처리하는 분산 기술을 구현했다"며 "한 대의 서버 안에서도 수많은 사용자의 요청을 병목 현상 없이 실시간으로 처리할 수 있다"고 말했다.
박성현 리벨리온 대표는 "국산 AI 모델과 NPU의 결합만으로 대규모 AI 서비스를 운영할 수 있음을 보여준 소버린 AI의 실질적 사례"라며 "인프라 효율성과 실사용 가능성을 모두 입증했다는 데 의미가 있다"고 말했다.
