SK하이닉스(1,651,500원 ▼19,500 -1.17%)가 에이전트 AI(인공지능) 시대의 폭증하는 데이터 처리 수요에 대응하려면 미래 메모리는 '위로 쌓는' 방향으로 진화해야 한다고 내다봤다. 다만 뜨거운 GPU(그래픽처리장치) 위에 메모리를 여러 층 쌓을 경우 발열 등 기술적 난제가 커지는 만큼 시스템·인프라 업체와의 협력이 필요하다고 강조했다.
주영표 SK하이닉스 부사장은 25일 서울 강남구 코엑스에서 열린 '델 테크놀로지스 포럼 2026' 기조연설에서 "대역폭을 면적에 비례해 증가시키는 거의 유일한 답은 미래에는 쌓는 것이라고 생각한다"며 이같이 말했다.
AI가 발전할수록 메모리의 역할은 커지고 있다. 주 부사장은 2022년 챗GPT 등장 이후 LLM(대규모언어모델)이 AI 확산을 이끌었다며 "저는 이 모델을 정말 사랑한다. 이 모델이 메모리를 정말 많이 쓰기 때문"이라고 밝혔다. SK하이닉스가 제시한 GPT-4급 MoE(전문가혼합) 모델 사례에서는 가중치 저장에만 3.5TB의 메모리가 필요하고, 초당 20개 토큰 생성 시 메모리 읽기 대역폭은 초당 4.4TB에 달한다.
에이전트 AI 시대에는 요구 수준이 더 높아진다. 여러 AI가 역할을 나눠 일하고 서로 정보를 주고받으면서 데이터 처리량이 크게 늘어나기 때문이다. AI 지능도 모델의 가중치뿐 아니라 이용자와 대화하면서 만들어지는 컨텍스트와 KV캐시 등에 담긴다. 주 부사장은 "HBM(고대역폭메모리)을 갖고 지금처럼 계속 잘하면 충분히 좋은 성능을 공급할 수 있느냐고 하면 불행히도 그렇지는 않을 것 같다"며 "에이전트 AI 때문"이라고 밝혔다.
문제는 물리적 공간이다. GPU 성능은 계속 높아지는 반면 메모리는 GPU 주변의 제한된 공간에 배치해야 한다. 주 부사장은 "GPU 성능을 따라잡기에 메모리는 지리적인 여건 때문에 한계가 발생한다"고 말했다. 대역폭을 높이려면 결국 메모리를 위로 쌓아야 한다는 것이 주 부사장의 판단이다.
쌓는 방식은 전력 효율 측면에서도 유리하다. AI 시스템에서는 데이터를 메모리에서 연산장치까지 이동시키는 데 상당한 에너지가 소비된다. 주 부사장은 물리적 거리를 줄이는 방식을 "주상복합으로 쌓이는 것"에 비유하며 "오피스텔 밑에서 근무하면 이동 시간이 최소화되는 것"이라고 설명했다.
발열은 넘어야 할 과제다. 그는 "가뜩이나 세상에서 제일 뜨거운 칩 중 하나인 GPU 위에 메모리를 얹는 것이기 때문에 쉽지 않다"며 "현재 HBM처럼 8층, 12층, 16층 쌓게 되면 발열을 감당하기 어렵다"고 말했다.
독자들의 PICK!
SK하이닉스는 이를 메모리 업체 혼자 해결할 수 없다고 보고 있다. 주 부사장은 "SK하이닉스는 풀 스택 메모리 크리에이터를 지향하고 있지만 이를 혼자 할 수 있다고 생각하지 않는다"며 "제품을 연구개발하는 단계부터 고객과 함께 준비하고 생태계를 만들어나갈 것"이라고 강조했다. 그는 델 테크놀로지스와도 장기적인 전략적 파트너십을 모색하며 연구개발부터 사업까지 협력하고 있다고 덧붙였다.
