엔비디아가 AI(인공지능) 데이터센터의 전력 사용을 최적화해 같은 전력으로 더 많은 GPU(그래픽처리장치)를 운영하는 기술을 소개했다. 실제 클라우드 사업자의 적용 사례에서는 GPU 설치 가능 수량이 37%, AI 토큰 생산량이 50% 증가했다. 외부 기업이 개발한 AI 반도체를 자사 인프라에 연결하는 전략도 강조했다.
정구형 엔비디아 코리아 솔루션 아키텍트 팀장은 9일 서울 강남구 코엑스에서 열린 '엔비디아 AI 데이 서울 2026'에서 AI 데이터센터 전체를 하나의 컴퓨터로 보고 전력과 냉각 설비를 통합 관리하는 전략을 발표했다.
정 팀장은 "엔비디아는 하나의 데이터센터 건물이나 부지 전체를 하나의 컴퓨터로 바라보고자 한다"며 "이러한 관점에서 데이터센터의 에너지를 어떻게 최적화할 수 있을지 고민하고 있다"고 말했다.
엔비디아의 'DSX' 플랫폼은 AI 데이터센터 구축에 필요한 설계 지침과 오픈소스 소프트웨어로 구성된다. GPU 서버뿐 아니라 냉각 설비와 전력 공급, 네트워크까지 함께 설계하는 방식이다. 정 팀장은 "베라 루빈 NVL72를 구축할 때 필요한 냉각 설계와 층고, 건물 하중 등에 대한 가이드를 제공한다"고 설명했다.
특히 엔비디아는 전력 사용량을 실시간으로 조정하는 오픈소스 소프트웨어 'DSX 맥스LPS'를 강조했다. 기존에는 서버 랙마다 최대 전력 한도를 고정했지만, 실제 AI 작업량은 시간에 따라 달라져 일부 랙에서는 전력이 남는 문제가 발생한다.
정 팀장은 "DSX 맥스LPS는 동적으로 동작한다"며 "건물 관리 시스템과 소통하면서 각 층의 전력 사용량과 온도, 랙별 전력 소비량을 지속적으로 모니터링한다"고 말했다. 이를 통해 전력 수요가 높은 랙과 여유가 있는 랙 사이에서 전력을 재배분할 수 있다.
실제 적용 사례로 엔비디아 클라우드 파트너인 엔스케일을 소개했다. 엔스케일은 GB300 기반 랙에 해당 소프트웨어를 적용해 동일한 전력 예산에서 GPU 설치 가능 수량을 약 37% 늘렸다. 같은 전력으로 생성할 수 있는 토큰 수도 50% 증가했다는 것이 정 팀장의 설명이다.
제시 클레이튼 엔비디아 AI 인프라 제품 마케팅 매니저는 외부 기업의 AI 반도체를 엔비디아 인프라에 연결하는 'NVLink Fusion(NV링크 퓨전)'을 소개했다. 그는 "엔비디아 플랫폼은 수직적으로 통합돼 있지만 수평적으로 개방돼 있다"며 "NV링크 퓨전은 이러한 개방성을 맞춤형 반도체까지 확장하는 기술"이라고 설명했다.
NV링크 퓨전을 활용하면 자체 AI 반도체를 개발한 기업도 엔비디아의 고속 연결 기술과 서버 랙 설계, 네트워크, 공급망을 활용할 수 있다. 클레이튼 매니저는 "맞춤형 반도체를 개발하는 것은 시작일 뿐"이라며 "이후 시스템 통합과 네트워킹, 공급망 구축 등에 10억달러 이상의 비용과 1년 이상의 시간이 추가로 소요될 수 있다"고 말했다.