국내 AI(인공지능) 기업들이 엔비디아 중심의 GPU(그래픽처리장치) 공급망에 대한 의존도를 낮춰야 한다고 강조했다. 특정 업체의 반도체 공급에 데이터센터 구축이 좌우되는 구조에서 벗어나 다양한 반도체를 활용할 수 있는 기술력을 확보해야 한다는 지적이다.
조강원 모레 대표는 4일 서울 강남구 웨스틴 서울 파르나스 호텔에서 열린 'AMD Advancing AI World Tour Seoul 2026'에서 엔비디아에 대한 GPU 공급망 의존 문제를 지적하며 "특정 업체가 1년 동안 한국에 GPU를 공급하지 않겠다고 결정하면 지금은 데이터센터를 지을 수 없는 환경"이라고 말했다.
이날 AMD코리아 장정희 대표가 진행한 패널 토론에는 조 대표와 김장호 망고부스트 대표, 이도규 과학기술정보통신부 정보통신정책실장이 참석했다.
조 대표는 "과거에는 사용하고 싶은 GPU를 먼저 정해놓고 데이터센터를 구축했지만 이제는 어떤 반도체가 주어지더라도 데이터센터를 운영할 수 있는 능력이 필요하다"고 강조했다. GPU 수요가 급증하는 반면 공급은 제한적인 만큼 특정 제품에 의존하는 방식으로는 적기에 인프라를 확보하기 어렵다는 것이다.
정부도 개방형 AI 인프라 구축을 지원한다는 방침이다. 이 실장은 "국방과 안보, 의료 등 민감한 데이터가 어디에서 학습되고 저장되는지가 중요하다"며 "중요한 민감 정보는 국내에서 처리할 수 있는 환경을 구축하는 데 노력하고 있다"고 말했다. 이어 "이를 반드시 우리나라 기술만으로 구현할 수 있는 것은 아니다"라며 "글로벌 개방형 생태계에서 우리 기술을 활용하면서 선택권을 확보하는 것이 중요하다"고 강조했다.
AMD와 국산 반도체 기업 간 협력도 추진되고 있다. 이 실장은 과기정통부와 AMD가 체결한 MOU(업무협약)에 대해 "AMD의 CPU(중앙처리장치)·GPU와 한국의 NPU(신경망처리장치)가 협력한다는 내용이 명시적으로 포함된 것은 이례적"이라며 "이를 기반으로 실제 현장에서 협력이 진행되고 있다"고 밝혔다.
국내 기업들은 반도체 공급망 다변화와 함께 소프트웨어 경쟁력 확보도 강조했다. 조 대표는 "모델이 엔비디아 GPU에서만 잘 돌아가고 다른 GPU에서는 작동하지 않을 것이라는 생각은 사실과 다르다"면서도 "모델을 구동하는 것과 높은 성능을 얻는 것은 다른 문제"라고 설명했다.
김장호 망고부스트 대표는 AI 인프라의 높은 비용을 문제로 꼽았다. 김 대표는 "국내 대기업도 GPU를 많이 도입해 놓고 제대로 성능을 내지 못하는 경우가 있다"며 "고객사의 GPU 효율을 높이고 자체 하드웨어를 제공해 비용 대비 성능을 2배 이상 개선한 사례가 있다"고 말했다.
정부 역시 AI 인프라의 비용 효율성을 중요한 과제로 보고 있다. 이 실장은 AI 산업의 중심이 모델 학습에서 추론 서비스로 이동하면서 국산 NPU에도 기회가 생길 것으로 내다봤다. 그는 "추론 시장이 본격적으로 열리면 막대한 컴퓨팅 자원이 필요해질 것"이라며 "TCO(총소유비용) 측면에서 NPU 기반 인프라가 적절한 선택이라고 본다"고 밝혔다.