델, 엔비디아 AI 팩토리 강화…데이터 처리 토큰 최대 76% 절감

구자윤 기자
입력 2026.11.17 09:05 수정 2026.11.17 09:05
델 AI 데이터 플랫폼의 신규 기능/사진 제공=델

델 테크놀로지스가 엔비디아와 구축한 AI(인공지능) 인프라 솔루션 '델 AI 팩토리'의 데이터 처리 및 관리 기능을 강화한다. AI 에이전트의 데이터 활용 효율을 높이고 최대 10만대의 장치를 통합 관리할 수 있도록 지원한다.

델은 '엔비디아 기반 델 AI 팩토리'의 데이터 플랫폼과 스토리지, 네트워크 및 인프라 관리 기능을 확대한다고 17일 밝혔다. 델은 AI 팩토리 출시 이후 420개 이상의 제품을 선보였으며 현재 6500개 이상의 고객이 이를 활용하고 있다고 설명했다.

핵심은 기업 내부에 분산된 데이터를 AI 에이전트가 효율적으로 활용하도록 지원하는 것이다. 새롭게 선보인 '에이전틱 데이터 게이트웨이'는 여러 AI 에이전트가 기업 데이터에 접근할 수 있는 통합 경로를 제공한다. 개별 에이전트마다 데이터 연결 체계를 구축할 필요가 없다는 것이다.

델의 내부 테스트에서는 기존 데이터를 재사용하는 방식으로 토큰 소비량을 최대 76% 줄이고 답변 정확도를 60%에서 94%로 높였다. 토큰은 AI가 텍스트를 처리하는 기본 단위로, 사용량이 줄면 AI 서비스 운영 비용도 낮출 수 있다.

데이터 저장 위치와 관계없이 AI 학습과 추론에 필요한 정보를 처리하는 기능도 추가했다. 기업은 자체 데이터센터와 퍼블릭 클라우드 등에 분산된 데이터를 별도로 옮기지 않고 활용할 수 있다. 델은 데이터 인덱싱 속도도 최대 12배 빨라진다고 밝혔다. 신규 데이터 플랫폼 기능은 12월부터 제공할 예정이다.

AI 인프라 관리 범위도 확대한다. '델 오픈매니지 랙 스케일'은 서버부터 랙 전체에 이르는 장비를 통합 관리하는 플랫폼이다. 관리 가능한 장치 수가 이전 세대보다 최대 12배 늘어난 10만대에 달한다. 자연어를 활용해 장비 상태와 전력 소비, 성능 문제 등을 확인할 수 있다.

네트워크 통합 관리 플랫폼 '델 패브릭 매니저'도 선보였다. 델에 따르면 자동화 기능을 통해 구축 이후 운영 부담을 최대 80% 줄일 수 있다. 두 관리 플랫폼은 현재 이용할 수 있다.

스토리지 제품군인 '델 엑사스케일'에는 DLC(직접 액체 냉각) 방식과 고밀도 1U 설계를 적용한 제품을 추가했다. 수랭식 제품은 최대 32개의 NVMe(비휘발성 메모리 익스프레스) 드라이브를 지원하며, 1U 제품은 랙당 드라이브 밀도를 67% 높였다.

델은 엔비디아 HGX B300 GPU(그래픽처리장치)를 탑재한 서버와 오픈AI 코덱스 기반 코드 개발 지원 솔루션 등도 AI 팩토리 포트폴리오에 포함했다. AI 보안과 데이터 관리, 업무 자동화 분야에서는 F5, 데이터로봇, 다이나트레이스 등과 협력을 확대한다.

유상모 한국 델 테크놀로지스 사장은 "10개 중 6개에 가까운 기업들이 불분명한 ROI(투자수익률)를 AI 확장의 가장 큰 걸림돌로 꼽는다"며 "기업이 직접 소유하고 통제할 수 있는 AI 인프라와 이를 통합하는 전문 역량을 제공하겠다"고 말했다.

<저작권자 © ‘돈이 보이는 리얼타임 뉴스’ 머니투데이. 무단전재 및 재배포, AI학습 이용 금지>