GPU 직접 안사도 된다…삼성SDS, '다차원 AI 풀스택' 전략

AI 인프라도 '소유'에서 '구독'으로 바뀌는 모습이다. 고가의 GPU(그래픽 처리 장치) 서버를 기업이 직접 구매해 구축하는 대신 클라우드를 통해 필요한 만큼 사용하는 방식이 확산하고 있다. AI 인프라 경쟁이 GPU 확보에서 실제 활용도를 높이는 단계로 넘어가고 있다는 뜻이다.

삼성SDS(삼성에스디에스(210,500원 ▲3,500 +1.69%))는 자체 구축한 삼성 클라우드 플랫폼(SCP)을 통해 GPU를 서비스 형태로 제공하는 GPUaaS(GPU as a Service)를 확대하고 있다. 기업이 직접 GPU 서버를 구매하거나 별도의 인프라를 구축하지 않아도 AI 모델 학습과 추론에 필요한 자원을 이용할 수 있는 방식이다.

삼성SDS는 지난 3월 국내 최초로 SCP 기반 엔비디아 B300 GPUaaS를 출시했다. 기존 H100과 함께 B300을 활용한 AI 컴퓨팅 환경을 제공한다. 과학기술정보통신부의 '2026년 AI 연구용 컴퓨팅 지원 프로젝트' 공급사로도 선정돼 대학과 연구기관에 GPU 자원을 공급하고 있다.

선택지는 GPU에 그치지 않는다. 지난 7월에는 퓨리오사AI의 2세대 NPU(신경망처리장치) '레니게이드(RNGD)' 기반 NPUaaS도 내놨다. AI 학습에는 GPU를, 추론 등에서는 작업 특성에 맞는 NPU를 선택해 사용할 수 있도록 연산자원의 범위를 넓힌 것이다.

AI가 기업 업무에 본격적으로 들어오면서 필요한 인프라도 복잡해지고 있다. 연산자원만 확보한다고 AI 서비스가 완성되는 것은 아니다. GPU와 NPU를 연결할 고속 네트워크와 스토리지, 이를 운영할 클라우드가 필요하고 대규모 장비를 안정적으로 돌릴 데이터센터가 뒤를 받쳐야 한다.

삼성SDS가 연산자원과 함께 데이터센터 투자를 확대하는 배경이다. 현재 국내 상암·수원·구미·춘천·동탄 등 5곳을 포함해 세계 17개 데이터센터를 운영하고 있다. 동탄 데이터센터의 전력효율지수(PUE)는 1.19 수준이다. PUE는 데이터센터 전체 전력사용량을 IT장비 전력사용량으로 나눈 값으로 1에 가까울수록 효율이 높다.

대규모 AI 인프라 구축도 진행 중이다. 삼성SDS가 컨소시엄 대표사로 참여하는 전남 해남 국가 AI 컴퓨팅센터에는 2028년까지 총 2조5000억원이 투입된다. AI 반도체 1만5000개 규모로 조성해 스타트업과 중소기업, 대학, 연구기관 등에 GPU·NPU 연산자원을 제공할 계획이다.

구미에는 60MW 규모 신규 AI 데이터센터를 짓는다. 2029년 3월 가동을 목표로 GPU 중심의 고전력 장비에 맞춘 전력공급 체계와 공랭·수랭을 결합한 하이브리드 냉각기술을 적용할 예정이다. 삼성SDS는 이 같은 투자를 통해 데이터센터 규모를 2031년 800MW 이상으로 확대한다는 계획이다.

삼성SDS는 데이터센터 설계·구축·운영부터 클라우드와 GPU·NPU, AI 플랫폼과 업무 솔루션까지 연결하는 이른바 '다차원 AI 풀스택' 전략을 펼친다. 기업이 AI를 도입할 때 필요한 인프라를 단계별로 연결하겠다는 것이다. 대규모 설비투자가 어려운 기업이나 연구기관까지 연산자원에 접근할 수 있어야 확보한 GPU의 활용률도 높일 수 있다.

최정진 삼성SDS 에반젤리스트그룹장은 오는 29일 서울 코엑스에서 열리는 'AI 인프라 프런티어 컨퍼런스'에서 'SCP AI 인프라: GPU·서버리스 기반 기업 AI 인프라'를 주제로 삼성SDS의 AI 인프라 전략과 기업 활용 사례를 소개할 예정이다.