AIDC엔 바람 대신 물… 엔비디아 칩 식히는 '액체냉각' 공장[르포]

지난 9월 30일(현지시간) 싱가포르 도심에서 차량으로 1시간여를 달리자 말레이시아 최남단 도시 조호르바루에 다다랐다. 국경을 넘어 다시 30여분을 더 이동하자 축구장 2개 반 크기에 달하는 1만8400㎡(약 5600평) 규모의 공장이 모습을 드러냈다. 글로벌 데이터센터 열관리·전력 인프라 선도 기업 버티브(Vertiv)의 조호르 생산기지다.

공장 내부로 들어서자 엔비디아의 GPU(그래픽처리장치) GB300 등을 탑재한 데이터센터에서 발생하는 열을 식혀줄 대형 CDU(냉각수분배장치)와 모듈러 전력설비 제작라인마다 작업자들의 손길이 쉴 틈 없이 움직이고 있었다. 싱가포르의 전력·부지 포화로 촉발된 '데이터센터 붐'이 단순한 서버 캠퍼스 유치를 넘어, 고밀도 AI 전력·냉각 인프라를 직접 제조해 공급하는 '하드웨어 배후 생산기지'로 조호르의 산업 체질을 완전히 바꿔놓고 있는 현장이었다.

이날 공장 생산라인에서는 버티브의 대표 액체냉각 설비인 '버티브 쿨칩 CDU 1350' 조립이 한창이었다. 안전모를 쓴 작업자들이 정밀 센서와 배관, 고전압 전선을 체결하느라 분주했고 라인 끝단에 마련된 품질 검사실에서는 완성된 장비를 세척·건조한 뒤 정상 구동 여부를 점검하는 공정이 쉴 새 없이 돌아갔다.

CDU는 액체냉각 시스템의 성능과 효율을 좌우하는 핵심 설비다. AI 서버에서 발생한 막대한 열을 냉각수로 흡수해 외부 냉각 시스템으로 전달하는 한편, 냉각수의 온도와 유량을 제어해 서버 과열을 막는다. 글로벌 AI 데이터센터(AIDC) 투자가 급증하면서 지난 7월 문을 연 이 CDU 생산기지는 글로벌 데이터센터 관계자들의 필수 견학 코스가 됐다. 이날도 20여 개 한국 기업 관계자를 비롯한 아시아 각국의 바이어들이 생산라인을 둘러보며 납기와 양산 능력을 확인했다.

AIDC의 등장은 공랭식(공기 냉각)에 의존하던 데이터센터 인프라 지형을 '액체냉각' 중심으로 급격히 재편하고 있다. 연산 성능이 비약적으로 뛴 최신 AI 가속기는 전력 소모와 함께 발열량이 기하급수적으로 늘어나지만, 데이터센터의 공간과 공조 설비 여건상 팬을 돌려 차가운 바람을 불어넣는 기존 공랭 방식으로는 이를 감당하기 어렵기 때문이다.

엔비디아의 최신 플랫폼 GB300 기반 고밀도 서버 랙(Rack)의 경우 전력 밀도가 142㎾(킬로와트)에 달한다. 전통적인 웹·클라우드 데이터센터의 서버 랙 전력 밀도가 5~10㎾ 안팎이고, 3~4년 전 초기 AI 서버 시절에도 20~30㎾ 수준이었음을 감안할 때 전력 소비와 발열량이 급증한 것이다. 버티브 관계자는 "서버 랙당 전력 밀도가 20㎾를 초과하면 고출력 GPU(그래픽처리장치)에서 발생하는 열을 제거하는 데 필요한 공기량을 확보하기 어려워진다"며 "AI 서버의 전력 밀도가 100㎾를 넘어서며 액체냉각은 필수 설비가 되고 있다"고 했다.

에너지 효율 측면에서도 액체냉각 도입은 불가피하다. 에너지경제연구원에 따르면 데이터센터 전체 소비 전력의 61%는 서버 가동에, 18.5%는 냉각에 쓰인다. 전체 전력의 약 80%가 연산과 그에 따른 열을 식히는 데만 소모되는 셈이다. 글로벌 빅테크들이 서버 연산 효율 못지않게 냉각 효율 개선에 사활을 거는 이유다.

업계에서 가장 빠르게 확산되는 액체냉각 방식은 D2C(Direct-to-Chip·칩 직접 냉각)다. CPU(중앙처리장치)와 GPU 위에 열전도율이 높은 냉각판을 직접 부착하고 냉각수를 순환시켜 반도체의 열을 즉각 흡수하는 기술이다. 조호르 공장의 주력 양산 품목인 'CDU 1350' 역시 이 같은 D2C 시스템을 겨냥한 장비다. 대당 냉각 용량이 1.35㎿(메가와트)에 달해 랙당 100~120㎾급 초고밀도 AI 서버 랙 8~10대를 단 1대로 냉각할 수 있다.

전력 절감 효과는 실증됐다. 버티브 데이터에 따르면 고밀도 서버 랙 50개를 갖춘 데이터센터에서 기존 공랭 방식의 75%를 D2C 액체냉각으로 전환하고 냉각수 온도 조건을 최적화하자 데이터센터 전체 전력 소비량이 10.2% 감소했다.

AI 서버의 고성능화가 이어지면서 냉각 설비의 중요성은 더욱 커질 전망이다. 버티브 관계자는 "더욱 강력한 AI 프로세서가 출시되면서 차세대 CDU는 더 높은 냉각 용량과 향상된 에너지 효율성, 운영 유연성을 지원해야 한다"며 "향후 데이터센터는 랙 수준의 액체 냉각과 시설 전체의 열관리 시스템을 결합한 하이브리드 냉각 방식을 더욱 폭넓게 활용하게 될 것"이라고 내다봤다.

※본 기획 취재는 한국기자협회와 기후미디어허브의 지원을 받았습니다.