메모리에 연산 능력 더한 'LPDDR5X-PIM' 발표...파운드리와 연계한 턴키 수주도 가능
삼성전자가 LPDDR(저전력 D램)에 연산 기능을 더해 AI(인공지능) 메모리 반도체(이하 메모리) 시장의 틈새를 공략한다. 고가의 HBM(고대역폭메모리)을 사용하기 어려운 스마트폰·PC·로봇 등의 엣지 AI 시스템을 겨냥해 메모리에서 직접 일부 연산을 수행하는 'LPDDR5X(7세대 LPDDR)-PIM'을 새로운 선택지로 선보였다.
26일 반도체업계에 따르면 삼성전자(261,500원 ▲4,500 +1.75%)는 25일(현지시간) 미국 스탠퍼드대에서 열린 반도체 학술행사 '핫칩스 2026'에서 'AI 추론을 위한 세계 최초 LPDDR 기반 PIM'을 주제로 LPDDR5X-PIM의 구조와 성능을 발표했다.
PIM(Processing in Memory)은 메모리 내부에 연산장치를 배치해 일부 연산을 직접 수행하는 기술이다. LPDDR5X-PIM은 지난 5일 열린 'FMS 2026'에서 '차세대 메모리상'을 수상했고, 이날 세부 구조와 시험 결과가 공개됐다.
기존 AI 시스템은 D램에 저장된 데이터를 NPU(신경망처리장치)나 GPU(그래픽처리장치)로 옮겨 연산한 뒤 결과를 다시 메모리에 저장한다. 이 과정이 반복되면 연산장치와 메모리 사이에서 대량의 데이터가 오가면서 처리 지연과 전력 소모가 커지는 문제가 있다.
LPDDR5X-PIM은 각 메모리에 간단한 연산장치를 배치해 데이터 이동량을 줄여 AI 추론의 속도와 전력 효율을 높이는 방식이다. 기존 장치와 비교해 데이터를 메모리 밖으로 내보내지 않고 내부에서 처리하면서 대역폭 증가와 비슷한 효과를 볼 수 있다.
실제 AI 모델을 활용한 시험에서도 성능 향상이 확인됐다. 삼성전자는 자체 '엣지 AI 가속기 SoC(시스템온칩)'에 일반 LPDDR5X와 LPDDR5X-PIM을 각각 연결해 메타의 '라마 3.1 8B' 모델을 구동했다. 시험 결과 LPDDR5X-PIM을 적용한 시스템의 모델 실행시간은 12.3초에서 5.4초로 줄었고, 초당 토큰 처리량은 27개에서 81.3개로 약 3배 증가했다. AI가 답변을 생성하는 속도가 약 3배 빨라졌다는 의미다.
LPDDR5X-PIM은 비용과 전력 효율이 중요한 AI 추론 시장에서 HBM을 보완할 대안이 될 수 있다. HBM은 여러 개의 D램을 쌓아 높은 대역폭을 구현한다. 대규모 AI 모델의 학습과 데이터센터용 고성능 추론에 적합하지만 가격이 비싸고, 높은 소비전력과 발열 등이 단점으로 꼽힌다.
특히 스마트폰과 PC, 자동차, 로봇 등 개별 기기에서 실시간으로 AI 추론을 직접 수행하는 엣지 AI 반도체는 배터리 용량과 제품 크기, 냉각 성능에 제약이 있고 메모리 원가에도 민감하다. 최근 HBM은 AI 칩 부품 원가에서 63%를 차지할 정도로 가격이 오른 상태다.
독자들의 PICK!
LPDDR는 전력 효율에 초점을 맞춘 메모리다. HBM보다 가격이 저렴하고 전력 소비와 패키징 부담도 작다. 최고 성능이 필요한 AI 학습에는 HBM을 사용하고, 가격과 전력 효율이 중요한 엣지 AI 추론에는 LPDDR-PIM을 적용하는 식으로 시장을 나눌 수 있다. 시장조사업체 그랜드뷰리서치에 따르면 엣지 AI 시장 규는 올해 299억달러에서 2033년1187억달러(약 164조원)까지 성장할 것으로 예상된다.
파운드리(반도체 위탁생산)와 메모리를 함께 보유한 사업구조도 강점으로 꼽힌다. 파운드리 공정과 AI 반도체 설계 생태계, LPDDR를 묶은 턴키(일괄) 수주 형태의 영업이 가능하다. 이미 8나노 파운드리 공정과 LPDDR5X를 결합한 엣지 AI 반도체 개발 지원이 논의되고 있다.
황가람 삼성전자 책임은 이날 발표에서 "HBM은 AI 추론에 필요한 대역폭을 제공하지만 전력 소비가 높고 패키징이 복잡하다"며 "이런 문제를 해결하기 위한 방안으로 새로운 메모리 폼팩터인 LPDDR-PIM을 제시한다"고 밝혔다.
