대규모 AI 인프라 구축 '붐'은 반도체 대란으로 이어졌다. 하지만 급변하는 기술 상황에 따라 AI 반도체 지형은 또 달라질 수 있다.
AI 반도체 시장이 2033년 800조원 규모로 성장할 것으로 예측되는 가운데, 20일 KISTEP 기술예측센터는 미래 AI 반도체 지형에 영향을 미칠 5개의 전환점을 발표했다.
먼저 기존 LLM(거대언어모델)의 기반인 '트랜스포머' 구조를 뛰어넘는 새로운 모델 등장 가능성이다. 트랜스포머 구조는 2017년 구글이 제안한 아키텍처다. 문장의 맥락과 의미를 파악하는 데 뛰어나 자연어처리 분야의 혁신을 일으켰다. 다만 전문가들은 트랜스포머 구조를 '에이전틱 AI'의 핵심 엔진으로 삼기엔 한계가 있다고 보는 추세다. 일례로 SAP CTO(최고기술책임자) 연구팀이 지난해 AI의 '할루시네이션'(환각) 현상이 데이터 부족이 아니라 트랜스포머의 구조적 필연성에 기인한다는 것을 수학적으로 증명했다.
AI 시장이 생성형 AI에서 에이전틱 AI와 AGI(범용 인공지능) 등으로 확장되면서 AI 인프라 시장도 다각화될 전망이다. AI 반도체는 범용적인 '데이터센터용 반도체', 보안·맞춤형 성능이 중요한 '온프레미스', 실시간성과 개인정보 보호가 최우선인 '온디바이스' 등으로 분화돼 성장할 것으로 보인다.
전력 수급도 문제다. AI 서비스가 방대해질수록 AI 모델 학습·추론에 막대한 전력이 필요하다. 이에 따라 각국 AI 인프라 구축 정책에서 AI 반도체의 저전력·고효율 달성 여부가 중요해진다. 실제 엔비디아는 GPU와 DPU(데이터처리가속기)를 합해 에너지 효율을 최적화한 모델을 개발 중이다. 구글은 지난해 전작대비 2배 높은 전력 효율성을 달성한 AI 반도체 'TPU v7' 모델을 공개했다.
소프트웨어도 진화한다. AI의 메모리 사용량을 압축하는 알고리즘이 적용된 '터보퀀트'가 대표 사례다. 신동평 기술예측센터장은 "과거 많은 양의 데이터를 학습하려 하드웨어에 자원을 들였다면, 2024년 이후 추론 등 효율화를 목표로 다양한 접근법이 나온다"며 "터보퀀트는 소프트웨어 관점에서 새로운 시도"라고 했다.
'게임체인저' 기술의 등장도 AI 반도체의 향방을 좌우할 것으로 봤다. 인간 신경망을 모사한 뉴로모픽 반도체, 병렬 연산에 특화된 양자컴퓨팅 등이다. 기술예측센터는 "한국은 HBM 생산의 핵심 플레이어로서 주권을 사수하되, 추론 비용 절감과 에너지 효율화 전략을 세워야 한다"며 "제조 산업(차·로봇)을 활용한 피지컬 AI 생태계를 먼저 구축해, 기기 내에서 AI가 구동되는 온디바이스 AI 시장 주도권을 쥐어야 한다"고 강조했다.