엔비디아 차세대 AI서버랙 부품가격 834만달러 추산...이중 메모리가 31% 차지
AI(인공지능) 서버랙 한 대에 들어가는 메모리 반도체(이하 메모리) 가격이 36억원에 달할 것이란 분석이 나왔다. AI 가속기의 성능 경쟁이 치열해질수록 이를 뒷받침하는 HBM(고대역폭메모리)과 LPDDR(저전력 D램)의 탑재량이 늘고 성능도 높아지면서 메모리가 AI 인프라의 핵심 비용으로 떠오르고 있다.
16일 전자업계에 따르면 투자은행(IB) 웰스파고는 최근 엔비디아의 차세대 AI 서버랙 '베라 루빈(VR200) NVL72' 1대의 부품원가를 834만달러(118억원)로 추산했다. 이전 세대인 '그레이스 블랙웰(GB300) NVL72'의 423만달러보다 2배 가까이 높은 수준이다.
VR200 NVL72는 차세대 루빈 GPU(그래픽처리장치) 72개와 베라 CPU(중앙처리장치) 36개를 하나의 랙 단위로 묶은 AI 플랫폼이다. GPU와 CPU 외에도 HBM과 LPDDR, 저장장치, 냉각장치, 네트워크 장비, 전원공급장치 등이 하나의 랙에 집약된다. 엔비디아는 올해 하반기 베라 루빈 플랫폼을 본격 공급할 계획이다.
실제 서버랙의 판매가격은 고객과 계약 조건, 구성 등에 따라 달라질 수 있다. 업계에서는 VR200 NVL72의 가격을 500만~700만달러 수준으로 보는 전망도 있지만 웰스파고가 추산한 부품원가는 이보다 높다. 특히 VR200 NVL72에 탑재되는 HBM과 LPDDR의 가격을 257만달러(약 36억원)로 추산했다.
GPU 2만장 규모의 AI 데이터센터를 구축하는 데 필요한 NVL72는 약 278대다. 웰스파고의 추정치를 단순 적용하면 서버랙의 부품원가만 약 3조2800억원에 달하고, 이중 1조원이 메모리 값인 셈이다.
가격 상승을 주도하는 부품 중 하나는 메모리다. VR200 NVL72의 메모리 부품원가는 이전 세대의 113만달러와 비교하면 128% 증가한 수준이다. 전체 제품 원가에서 메모리가 차지하는 비중도 26.6%에서 30.8%로 높아진다. AI 서버랙 한 대의 부품원가 가운데 약 3분의 1이 메모리인 셈이다.
모간스탠리의 분석도 비슷한 흐름을 보여줬다. 모간스탠리는 VR200 NVL72 1대의 제품원가를 약 780만달러로 추산하고 이 가운데 메모리가 약 200만달러를 차지할 것으로 봤다. 메모리 비용이 이전 세대보다 약 5.3배 뛰었다.
메모리 비중이 커지는 것은 GPU의 연산 성능이 높아질수록 이를 뒷받침할 메모리 용량과 대역폭도 함께 높아져야 하기 때문이다. GPU만 빨라지고 메모리가 데이터를 공급하는 속도가 따라가지 못하면 전체 시스템의 성능을 끌어올리는데 한계가 있다.
독자들의 PICK!
여기에 AI 투자 확대로 메모리 수급이 빠듯해지면서 메모리 전반의 가격까지 오르고 있다. 메모리의 고성능화와 탑재량 증가, 가격 상승이 동시에 나타나고 있다. 엔비디아는 물론 글로벌 주요 AI데이터센터 운영사가 삼성전자(274,500원 ▲6,500 +2.43%), SK하이닉스(1,645,000원 ▲52,000 +3.26%)와 장기계약을 맺는 이유다.
HBM의 경우 루빈 GPU당 288GB(기가바이트)의 HBM4가 탑재된다. 이전 모델과 용량은 같지만 HBM3E(5세대)에서 HBM4(6세대)로 세대가 바뀌면서 성능과 가격이 모두 높아졌다. NVL72 한 대에는 GPU 72개가 들어가기 때문에 랙당 HBM4 용량은 약 20.7TB(테라바이트)에 달한다.
CPU에도 대용량 메모리가 붙는다. 베라 루빈 플랫폼의 베라 CPU에는 1.5TB의 LPDDR5X가 적용된다. NVL72 1대에 총 54TB의 LPDDR5X가 필요하다. 최신형 스마트폰 4600여대(12GB 기준)와 맞먹는 용량의 메모리가 들어가는 셈이다. 특히 랙당 LPDDR은 전 세대보다 용량이 3배 이상 늘었다.
메모리 가격과 공급 부담이 차세대 서버 설계에까지 영향을 미칠 수 있다는 전망도 나온다. 엔비디아는 내년 출시 예정인 '루빈 울트라'의 HBM 구성을 재검토 중인 것으로 알려졌다. 당초 검토했던 12단 HBM4E(7세대)뿐 아니라 8단 HBM4E나 HBM4를 사용하는 방안 등이 거론된다. 일부 구성에서는 GPU당 HBM 용량을 192GB로 낮추는 방안도 언급된다.
AI 서버를 구매하는 고객의 비용 부담과 엔비디아의 HBM 조달 부담을 동시에 낮추기 위한 것으로 풀이된다. 시장조사업체 트렌드포스는 2027년 HBM 출하량이 전년보다 50~60% 늘어도 공급 부족이 이어질 것으로 전망한다. GPU에 들어가는 HBM 용량을 낮추면 같은 양의 HBM으로 더 많은 GPU를 공급할 수 있어 병목 현상을 완화할 수 있다.
