"우리가 엔비디아 대항마"…망고부스트, 토큰 비용 낮춘 AI 추론 플랫폼 출시

AMD 한국 핵심 협력사…AMD GPU로 최고 효율 뽑아내 토큰비용 낮추는 AI 추론 플랫폼 '망고 인퍼런스' 론칭 진정한 '소버린 AI' 생태계 구축 위해 향후 국산 NPU 적용 계획도 "망고부스트는 하드웨어에 소프트웨어까지 자체 보유해 AMD GPU(그래픽처리장치)로 토큰 가성비를 최대한 끌어올릴 수 있습니다. 우리가 엔비디아의 유일한 대안이 될 수 있습니다." 김장우 망고부스트 대표는 12일 서울 강남구 그랜드 인터컨티넨탈 서울 파르나스에서 기자간담회를 열고 "새로운 서버리스 AI(인공지능) 추론 플랫폼 '망고 인퍼런스(Mango Inference)'로 기업들의 추론 성능과 토큰 효율을 높일 것"이라며 이같이 밝혔다. 망고 인퍼런스는 망고부스트의 하드웨어·소프트웨어 기술을 결합한 추론 서비스다. 복잡한 인프라 구축 없이 AI 모델을 이용할 수 있으며, 초 단위 배포와 낮은 지연, 처리량 극대화, 총소유비용(TCO) 절감을 지향한다. 망고부스트는 이번 서비스 출시를 계기로 DPU(데이터처리장치) 스타트업을 넘어 하드웨어부터 소프트웨어, 서비스까지 아우르는 풀스택 AI 인프라 기업으로

최신 기사


공유