AI, 하드웨어 공급부족에 직면하다 [PADO]

[편집자주] AI 혁명이 반도체와 제조 등 '물리적 병목'이라는 거대한 장벽에 부딪히고 있다는 4월 27일자 이코노미스트(Economist) 기사의 분석이 흥미롭습니다. 소프트웨어는 몇 달 만에 업그레이드되고 진화하지만, 이를 뒷받침할 하드웨어 인프라를 구축하는 데는 수년이 걸린다는 '시간의 불일치'가 AI 산업의 발목을 잡고 있습니다. 가장 눈여겨볼 대목은 빅테크와 하드웨어 제조사 간의 극명한 투자 온도 차이입니다. 최근 실적발표에서 언급되었듯이, 올해 아마존, 구글, 메타, 마이크로소프트, 오라클 등 5대 '하이퍼스케일러'는 데이터센터 자본 지출에 총 7500억 달러 이상을 쏟아부을 예정입니다. 반면, 칩을 만드는 TSMC나 HBM을 주도하는 한국의 메모리 기업 등 하드웨어 제조업체들은 과거의 뼈아픈 과잉 투자 트라우마로 인해 하이퍼스케일러들보다 설비 증설에 훨씬 신중한 태도를 보이고 있습니다. 공급망을 확장하는 데 수년의 시간이 걸린다는 점을 고려하면, 이들의 보수적인 접근은 향후 심각한 파장을 예고합니다. 이러한 불균형은 이미 전방위적인 인프라 병목 현상으로 이어지고 있습니다. 단순히 반도체 칩뿐만 아니라 변압기, 개폐 장치, 가스 터빈 등 데이터센터 구축에 필수적인 장비들마저 심각한 부족 현상을 겪고 있습니다. 여기에 데이터센터 건립을 반대하는 지역 사회의 정치적 저항까지 겹치며 상황은 더욱 악화되고 있습니다. 이 병목의 최대 수혜자는 역설적으로 공급망의 목줄을 쥔 소수의 하드웨어 독점 기업들입니다. 최근 실적발표에 따르면 막강한 가격 결정력을 바탕으로 엔비디아의 매출총이익률은 현재 약 75%로 치솟았고, TSMC 역시 60%가 넘는 막대한 이익률을 누리고 있습니다. 이에 맞서 일론 머스크가 최대 13조 달러에 달하는 비용을 들여 '테라팹(Terafab)'을 건설하겠다는 계획까지 제시했지만, 단기간에 이 견고한 장벽을 깨기는 역부족입니다. 더욱이 '에이전틱(Agentic) AI'의 서비스 확대로 CPU 수요마저 폭증하며 인텔이 기사회생하는 현상은, AI 하드웨어 생태계가 단순히 GPU 중심에서 훨씬 복잡한 양상으로 진화하고 있음을 시사합니다. 실리콘밸리를 휩쓸고 있는 '토큰맥싱(토큰 태우기 경쟁)' 열풍은 혁신의 부재가 아니라, 냉혹한 물리적 인프라의 한계로 인해 조만간 강제 종료될지도 모릅니다. 결국 이번 공급망 위기의 최종적인 결과는 'AI 기술 도입 속도의 둔화'가 될 것입니다. 무한정 저렴해질 것 같았던 AI 연산 비용이 상승 압력을 받으면서, 이제 기업들은 단순히 "AI를 도입했는가"를 과시하는 것을 넘어, 인간의 노동력처럼 "AI를 얼마나 비용 낭비 없이 효율적으로 사용하고 있는가"를 냉정하게 따져봐야 할 때가 되었습니다. 기사 전문은 PADO 웹사이트(pado.kr)에서 읽을 수 있습니다.