삼성SDS(삼성에스디에스)가 국내 최초로 자사 클라우드SCP(삼성 클라우드 플랫폼)를 통해 엔비디아 최신 GPU B300(Blackwell Ultra) 기반 GPUaaS를 출시했다고 23일 밝혔다.
이번 출시는 기업들의 AI 활용이 모델 개발을 넘어 실제 서비스 적용 단계인 AI 추론으로 확대되는 흐름에 대응하기 위한 것이다. 삼성SDS는 고성능 컴퓨팅 수요가 빠르게 늘어나는 상황에서 최신 GPU 서비스를 선제적으로 제공하며 기업용 AI 인프라 시장 공략에 나섰다.
B300 GPU는 12단 HBM3E를 탑재해 GPU당 288GB 메모리와 초당 8TB 대역폭을 제공한다. 삼성SDS에 따르면 이는 H100 대비 메모리 용량은 3.6배, 대역폭은 2.4배 향상된 수준이다. 이에 따라 대규모 언어 모델(LLM) 실행 과정에서 발생하는 데이터 병목 현상을 크게 줄일 수 있다.
특히 AI 에이전트, 이미지·영상·코드 생성 및 분석처럼 높은 성능이 필요한 AI 서비스에서 지연 시간을 최소화할 수 있다는 점이 강점이다. 고용량 메모리를 기반으로 거대 AI 모델을 보다 효율적으로 처리할 수 있다는 설명이다.
삼성SDS는 앞서 2021년 A100, 2023년 H100 기반 GPUaaS를 선보이며 GPU 기반 클라우드 인프라 구축과 운영, 고객 서비스 확대를 이어왔다. 이번 B300 서비스 출시로 GPUaaS 생태계를 한층 강화했다는 평가다.
구독형 모델도 내세웠다. 고객은 필요한 만큼만 쓰고 비용을 지불하는 방식으로 초기 투자 부담을 낮출 수 있다. GPU 수급이 쉽지 않은 상황에서도 SCP를 통해 엔비디아 최신 아키텍처를 즉시 도입할 수 있다는 점도 장점이다. 여기에 삼성SDS의 보안 역량을 결합해 민감한 기업 데이터도 안전한 클라우드 환경에서 처리할 수 있도록 했다는 설명이다.
삼성SDS는 AI 서비스 포트폴리오도 넓힌다. 회사는 AI 모델 적용 시 별도 인프라 사용료 없이 사용한 토큰만큼만 비용을 내는 서버리스 추론 서비스와, 개발자가 코드와 데이터를 입력하면 자동으로 즉시 AI를 분산학습시키는 AI 학습 서비스를 올해 3분기 출시할 계획이다.
이호준 삼성SDS 클라우드서비스사업부장은 "SCP가 보유한 자원 최적화와 에너지 절감 등 GPU 효율화 역량을 바탕으로 대기업, 중견·중소기업, 공공 등 AI를 업무에 적용하려는 고객에게 국내 최초 B300 GPU 서비스를 제공해 AX 전환을 적극 지원하겠다"고 밝혔다.
삼성SDS는 공공 부문에서도 GPUaaS 사업을 확대하고 있다. 회사는 민관협력형(PPP) 클라우드 서비스 사업자로서 대구센터에 H100 기반 GPUaaS를 도입했으며, 범정부 초거대 AI 공통기반 구현과 지능형 업무관리 플랫폼 구축 등 정부 AI 사업을 수행하고 있다. 또 과학기술정보통신부 주관 고성능 컴퓨팅 지원사업 수행 CSP로서 60여개의 AI 중소기업과 스타트업, 연구기관, 대학교 등에 GPU를 공급하고 있다.