TPU(Tensor Processing Unit)는 구글이 개발한 주문형반도체(ASIC)로, 인공지능(AI) 모델의 학습과 추론에 최적화된 전용 칩입니다.
구글에 따르면 TPU는 코드 생성과 미디어 콘텐츠 생성, 음성 합성 등 다양한 사례에 적용될 수 있습니다. TPU는 구글맵과 제미나이 등 구글의 모든 AI 기반 애플리케이션에 지원되고 있습니다.
컴퓨터 그래픽 처리에서 출발한 엔비디아의 GPU와 달리, TPU는 태생부터 AI 연산에 맞춰 설계된 주문형반도체입니다. 이에 TPU는 범용성 부분에선 GPU에 밀리지만, AI 모델 학습 및 추론에선 더욱 효율적이란 평가를 받고 있습니다.
구글은 최근 제미나이3를 공개하면서 "GPU 사용 없이 TPU만으로 훈련된 첫 모델"이라고 밝혔습니다. 일각에서 제미나이3 성능이 챗GPT를 앞섰다는 평가까지 나오면서 TPU가 엔비디아 독주 체제를 흔들 것이란 전망도 나옵니다.
엔비디아도 위기감을 느낀 것 같습니다. 엔비디아는 지난 25일 X(옛 트위터) 계정을 통해 구글 TPU의 성공을 축하하면서도 "우린 업계보다 한 세대 앞선 유일한 플랫폼"이라며 "GPU는 모든 AI 모델을 그 어떤 환경에서도 실행할 수 있는 기술을 보유 중"이라고 밝혔습니다.
구글은 아직 TPU를 외부 기업에 판매하진 않고 있습니다. 다만 구글 클라우드를 통해 기업 고객에게 임대 형태로 TPU를 제공 중입니다.
