[인터뷰]강민수 NHN클라우드 CIO "기업들, 뒤처지면 도태될 수 있다는 위기감 때문에 선제 투자"
"지금의 AI는 전기가 발견되고 전등을 켠 단계와 비슷합니다. 전기가 이후 산업과 일상을 어떻게 바꿨는지를 생각하면 AI의 활용도 이제 시작이라고 봐야 합니다."
강민수 NHN클라우드 최고인프라책임자(CIO)는 AI 산업의 현재를 이렇게 표현했다. 기업들이 앞다퉈 GPU를 확보하고 있지만 이제 막 인프라 투자가 시작된 단계라는 뜻이다. 실제 수요도 달라졌다. 기존에는 수십 장이면 충분했지만 지금은 수백 장을 하나로 묶어 달라는 요구가 들어온다.
강 CIO는 최근 머니투데이와 인터뷰에서 "광주 AI데이터센터를 처음 구축했을 때만 해도 AI 수요는 일부 기업에 국한됐고 대부분 작은 규모의 GPU만 원했다"며 "지금은 수백 장 단위를 클러스터로 구성해 달라고 할 정도로 분위기가 완전히 달라졌다"고 말했다.
이어 "다만 기업들의 AI 투자가 직접적인 매출로 이어지는 단계는 아니다"라며 "뒤처지면 도태될 수 있다는 위기감 때문에 선제 투자한다"고 진단했다.
NHN클라우드는 국내에서 가장 먼저 AI 인프라 경험을 쌓은 클라우드 사업자 중 하나다. 광주 국가 AI데이터센터에서 엔비디아 H100 클러스터를 운영했고, 올해는 블랙웰 GPU 약 7650장을 기반으로 한 '팩토리엑스 서울'을 선보였다. 이 회사가 구축한 클러스터는 지난달 글로벌 슈퍼컴퓨터 순위(TOP500)에서 국내 최고인 세계 20위에 올랐다.
AI 인프라는 운영 방식부터 다르다. GPU는 학습이 시작되면 전력 사용량과 발열이 순간적으로 치솟는다. 일정한 부하를 유지하는 기존 서버와 달리 '0에서 100'으로 한꺼번에 뛴다. 전력 설비와 냉각을 최대치에 맞춰 설계해야 해 비용 부담도 그만큼 커진다.
강 CIO는 "광주에서 공랭 방식으로 H100 클러스터를 운영하면서 공기로는 발열을 제어하는 데 한계가 있다는 것을 확인했다"며 "그 경험을 바탕으로 팩토리엑스 서울은 100% 수랭 방식으로 지었다"고 말했다.
이어 "GPU는 매우 비싼 자원이라 고장 나거나 놀게 되면 손실이 크다"며 "AI 데이터센터 경쟁력은 GPU를 얼마나 안정적으로 돌리고 가동률을 높이느냐에 달려 있다"고 강조했다. 여러 GPU를 하나로 묶어 쓰는 만큼 네트워크도 관건이다. 그는 "클러스터에서는 GPU 간 통신 속도가 전체 성능을 좌우한다"며 "네트워크와 스토리지까지 함께 최적화하는 것이 핵심"이라고 설명했다.
AI 도입을 서두르는 금융권은 다른 벽에 부딪혔다. 규제 때문에 자체 데이터센터에서 GPU를 돌려야 하는데 기존 시설이 이를 감당하지 못해서다.
독자들의 PICK!
강 CIO는 "금융권 데이터센터 대부분은 오래전에 지어져 전력과 냉각 능력이 부족하다"며 "양평 데이터센터에서는 블랙웰 서버를 랙 하나에 여러 대 넣을 수 있지만, 일부 금융사는 전력과 냉각 문제로 한 줄에 한 대를 놓기도 어렵다"고 설명했다.
그는 "기술 변화가 워낙 빨라 기업이 직접 인프라를 계속 투자하고 전문 인력까지 확보하기가 쉽지 않다"며 "규제상 반드시 자체 구축이 필요한 경우를 빼면 서비스 형태로 빌려 쓰는 편이 장기적으로 효율적일 수 있다"고 덧붙였다.
강 CIO는 시장 성장세가 이어질 것으로 봤다. 그는 "AI는 지금 전기가 처음 발견돼 전등을 켠 정도"라며 "부침은 있겠지만 산업과 사회를 바꾸는 흐름은 계속될 것"이라고 했다. 이어 "GPU 중심 구조를 뒤집는 기술이 단기간에 나오지 않는 한 AI 데이터센터 수요는 계속 늘 것"이라며 "추가 데이터센터 확보와 투자를 지속 검토하고 있다"고 밝혔다.
