디지털리얼티 이노베이션 랩, 최장 6개월 성능 검증 가능한 테스트베드
서버 덮개를 열자 내부의 냉각판(콜드플레이트)과 배관이 모습을 드러냈다. 뒤편에는 굵은 냉각수 호스가 연결돼 있다. 공기로 서버실을 식히는 데서 나아가 AI(인공지능) 칩 가까이 물을 보내 열을 빼내는 데이터센터의 변화가 눈앞에 펼쳐졌다.
미국 버지니아주 애시번 디지털리얼티의 이노베이션 랩 'DRIL(Digital Realty Innovation Lab)'은 데이터센터 내부에 마련된 테스트베드다. 기업과 장비·칩 제조사가 실제 장비를 설치해 최장 6개월간 성능을 검증할 수 있다.
AI 서버의 전력 사용량이 늘면서 발생하는 열을 식히는 냉각 시스템도 주요 시험 대상이다. 스콧 월리스 디지털리얼티 솔루션 아키텍처 부문 수석 이사는 "AI 서버는 기존 서버보다 열이 많이 발생하기 때문에 차가운 공기로 식히는 방식만으로는 한계가 있다"면서 "서버에서 발생하는 열을 액체로 식히는 냉각 기술도 필요하다"고 말했다.
DRIL 내부 바닥 일부는 투명유리다. 발밑으로 냉각수 배관과 밸브가 이어지는 모습이 그대로 보인다. 냉각수는 CDU(냉각수분배장치)에서 온도와 압력, 유량 등이 조절된 뒤 분배관(매니폴드)을 거쳐 각 랙으로 향한다. 이후 서버 내부 냉각판에서 CPU(중앙처리장치)와 GPU(그래픽처리장치) 등의 열을 흡수하고 다시 회수된다.
DRIL에서는 CDU 제조사인 버티브와 모티베어의 제품을 가동하며 성능을 비교중이었다. 각각 약 1MW(메가와트)의 열부하를 처리할 수 있었다. 서버를 절연액에 담그는 액침냉각도 한때 시험했지만 현재 DRIL에서는 운용하지 않는다. 월리스 수석 이사는 환경적 제약과 냉각액 처리의 어려움 등을 이유로 들었다.
이 같은 냉각 시스템은 실제 AI 장비를 가동하며 검증한다. GPU와 CPU, 메모리, 스토리지를 묶은 AI 시스템은 최대 부하에서 50~100kW(킬로와트)를 사용한다. 월리스 수석 이사는 "이전 세대 GPU인 H100이나 H200도 충분히 사용할 수 있다"며 "어떤 GPU가 적합한지는 워크로드와 구현하려는 모델, GPU 밀도에 따라 달라진다"고 말했다. GPU 동작과 토큰 출력량도 측정한다.
DRIL에는 하루 평균 2~3차례 기업 고객과 칩 제조업체들이 찾는다. 오케이 케케 디지털리얼티 수석 엔지니어는 "한국 기업도 이곳을 방문한 뒤 별도의 PoC(개념검증)를 거치지 않고 곧바로 디지털리얼티 시설에 상용 시스템을 구축하기로 결정했다"고 말했다.
독자들의 PICK
지금 6,017명 읽는 중
상용 구축에는 또 다른 장벽도 있다. 케케 수석 엔지니어는 "가장 큰 문제는 공급망"이라며 발전기와 PDU(전력분배장치) 등 인프라 수요 급증으로 장비 확보에도 상당한 기간이 걸린다고 설명했다. AI 데이터센터 구축에 속도를 내는 한국에도 냉각 기술뿐 아니라 이를 뒷받침할 전력 설비와 안정적인 장비 공급망 확보가 중요하다는 점을 시사했다.
