"추론의 변곡점이 도래했다."
16일(현지시간) 미국 캘리포니아 새너제이 SAP센터. 이곳을 가득 채운 1만7000여명 관객이 "젠슨"을 연호했다. 무대에 오른 젠슨 황 엔비디아 최고경영자(CEO)는 이날 개막한 엔비디아 연례 개발자 회의 'GTC 2026' 기조연설자로 직접 나서 이른바 추론 칩 속도전을 선언했다.
기존 GPU(그래픽처리장치) 중심의 범용 AI 칩을 넘어 LPU(언어처리장치) 기반의 추론 특화 칩 시장까지 선점하겠다는 구상을 드러낸 것이다. 구글 등 글로벌 빅테크업체가 자체 추론 칩 개발에 착수하면서 엔비디아의 GPU 기반 AI 칩 지배력이 줄어들 수 있다는 우려가 나오는 데 대한 선제대응이다. 전문가들 사이에선 "엔비디아가 AI 시장의 포식자 근성을 드러냈다"는 얘기가 나온다. 올해 190여개국에서 온 3만여명을 끌어들인 GTC는 'AI 혁명'의 최첨단을 접할 수 있는 글로벌 행사로 발돋움했다.
황 CEO가 이날 공개한 LPU는 지난해 12월 29조원을 들여 인수한 추론용 AI 반도체 스타트업 '그록'의 기술을 기반으로 한 설루션이다. 올 하반기 출시 예정인 차세대 AI 슈퍼컴퓨터 '베라 루빈'에 LPU를 탑재해 방대한 데이터를 다루는 대규모 연산은 GPU가, AI 추론은 LPU가 담당하도록 해 AI의 성능을 극대화하겠다는 복안이다. '그록3 LPU' 생산은 삼성전자가 맡기로 했다.
황 CEO는 수십년 동안 인텔의 안마당이었던 CPU 시장 진출 확대 계획도 밝혔다. AI가 학습과 데이터 처리 단계에서 추론 단계로 넘어가면서 그동안의 일반적인 AI 챗봇과 달리 AI 에이전트를 구동하는 데는 빠른 속도와 전체 작업을 통합적으로 조율하는 CPU의 역할이 커지는 데 따른 전략이다. 기존 x86 방식의 CPU 대비 성능을 1.5배로 끌어올리고 에너지 효율은 2배로 늘린 '베라'가 엔비디아의 새로운 주전 CPU로 나선다.
최근 불거진 AI 거품론에 대한 도발적인 반박도 이어졌다. 황 CEO는 AI 에이전트가 등장하면서 필요해진 추론의 규모가 챗GPT 첫 등장 당시보다 1만배, 연산량과 사용량까지 고려하면 연산 수요는 100만배 늘었다고 밝혔다. AI 투자 열기가 정점을 지나고 있다는 시장 일각의 시각에 대해 '추론 시대의 시작을 간과한 평가'라는 메시지를 던진 셈이다.
황 CEO는 "비용과 성능을 모두 고려하면 엔비디아 칩이 오히려 가장 저렴하고 효율성이 높은 '토큰(AI 데이터 처리 단위) 왕'"이라며 "내년까지 엔비디아의 AI 칩 누적 매출은 최소 1조달러(약 1500조원)에 달할 것"이라고 말했다. 올해 말까지 누적 매출을 5000억달러로 제시했던 것보다 기간을 1년 연장하면서 전망치를 2배 늘렸다.
이날 기조연설에선 '루빈'의 다음 세대 GPU인 '파인만'도 소개됐다. 파인만은 '로자'라는 새 CPU와 함께 구동되고 LP40 LPU를 탑재할 예정이다.
AI 에이전트를 손쉽게 배포하고 관리할 수 있는 소프트웨어로 최근 화제가 된 AI 에이전트 플랫폼 '오픈클로'를 엔비디아 생태계로 끌어들인 '네모클로'도 관객들의 관심을 받았다. 네모클로는 엔비디아 칩이 없어도 작동하는 소프트웨어 플랫폼이다. 독자 소프트웨어 플랫폼 '쿠다'로 전 세계 기업들이 엔비디아의 GPU에 의존하게 만든 것처럼 네모클로를 통해 엔비디아 칩을 사용하지 않는 기업까지 끌어들이겠다는 전략이다.
황 CEO는 우주 데이터센터용 AI칩 개발 계획과 함께 내년 출시될 자율주행차(로보택시)와 관련한 현대차와 협업도 언급했다.
올해 엔비디아 GTC에는 지난해 2만5000명보다 5000명이 더 늘었다. 코로나19 사태 직후 5년만에 오프라인 행사로 처음 열렸던 2024년 참석자가 1만6000명 수준이었던 점을 고려하면 2년새 참석인원이 2배 늘었다. 엔비디아가 AI 혁명을 이끄는 기업으로 떠오르고 전 세계 시가총액 1위로 올라서면서 달라진 풍경이다. 엔비디아는 1000개 이상의 세션을 준비했다. 세션과 별도로 전시관에서는 로봇부터 자율주행차, 반도체 등 AI 산업을 움직이는 최신 기술의 향연이 펼쳐졌다.
업계 관계자는 "몇년 전까지 세계 최대 가전·IT 전시회인 CES가 업계의 기술 흐름을 엿볼 수 있는 자리였다면 AI 시대엔 엔비디아 GTC가 그 역할을 이어받았다고 해도 과언이 아니다"고 말했다.