정확히 1년 전, 서울의 한 호텔 카페에서 좀처럼 만나기 힘든 사람과 마주하고 있었다. 그 사람은 반도체 역사상 최고의 화제작으로 꼽히는 '칩워(Chip War)'의 저자 크리스 밀러였다. 출간과 동시에 전 세계적인 반향을 일으킨 그 책의 저자를 직접 만난 것이다.
반도체 산업의 지형을 가장 정교하게 읽어내는 학자로 꼽히는 그가, 필자가 몸담은 한국의 작은 반도체 스타트업을 굳이 찾아온 이유가 궁금했다. 짧은 대화 끝에 남은 인상은 하나였다. 그는 한국을 개별 기업이 아니라 하나의 생태계로 보고 있었다. 그날 그는 지금 세계 어느 나라도 첨단 칩은 물론 어중간한 수준의 칩조차 홀로 완성할 수 없다고 말했다. 여러 나라에 흩어진 설계, 소재, 장비, 제조가 맞물려야 비로소 칩 하나가 나온다는 것이다. 작은 스타트업까지 챙겨 본 것도, 결국 한국이라는 생태계 전체의 가능성을 가늠해보려 한 것이 아니었을까 짐작해본다.
그로부터 1년, 지난달 샌프란시스코 AI 서밋에서 비슷한 결의 장면을 다시 봤다. 한국 정부의 AI 행보에 엔비디아, 브로드컴, 앤트로픽, 오픈AI 등 빅테크 최고경영자들이 예상보다 훨씬 적극적으로 호응했다. 몇 년 전만 해도 한국은 이 무대에서 부품을 대는 '생산기지' 정도로 언급되곤 했다. 지금은 판을 함께 설계하는 파트너로 이야기되는 듯하다.
여기서 말하는 생태계는 소재·부품·장비부터 파운드리, 패키징으로 이어지는 공급망만을 뜻하지 않는다. 그 공급망을 움직이는 엔지니어와 연구인력, 그리고 단기 성과에 조급해하지 않고 오래 기다려주는 인내자본으로서의 정부 지원까지 놓고 봐야 온전한 그림이 된다. 공정 기술, 세계적 수준의 인적자원, 장기적 안목의 정책이 씨줄과 날줄처럼 엮여 있다는 점, 그것이 한국이 가진 실제 자산이자 앞으로 더 또렷해질 강점이다.
이 강점이 지금 가장 구체적으로 시험받는 무대가 AI 반도체, 그 중에서도 추론(inference) 시장이다. 그동안 AI 반도체 담론은 거대 모델을 학습시키는 '훈련' 중심이었고, 소수의 빅테크만 감당할 수 있는 영역이었다. 그런데 서비스가 실제로 쓰이는 순간은 학습이 아니라 추론이다. 챗봇의 응답 한 번, 자율주행차의 판단 한 번, 산업 현장의 실시간 의사결정 모두 추론에서 일어난다. 학습된 모델이 곳곳에서 반복 호출되는 시대가 오면서, 비용과 전력 효율이 결정적 변수로 떠오르고 있다.
지난 5년간 추론이라는 좁은 영역에 역량을 집중해온 국내 AI 반도체 기업들에게, 이 국면은 준비해온 자에게 열리는 기회다. 서둘러 여러 영역으로 확장하는 대신 하나의 문제에 정밀하게 조준해온 시간이 지금의 차별점이 되고 있다. 처음부터 추론에 맞춰 설계된 구조는, 훈련용 칩을 뒤늦게 변형한 접근과는 효율에서 근본적으로 다르다. 이런 차이는 시장이 주목하지 않던 시기에도 방향을 바꾸지 않고 걸어온 시간이 쌓여야 가능한 일이다.
이 여정은 아직 끝나지 않았다. 사실 이제 막 시작했다는 게 더 맞다. 자본과 인력, 시간 모두 여전히 절대적으로 부족한 싸움이다. 다만 그날 카페에서, 그리고 샌프란시스코에서 확인했듯, 세계는 한국의 생태계가 만들어내는 결과물에 조금씩 주목하고 있다. 이는 어느 한 기업의 성과가 아니라, 기업과 연구자, 인내심을 갖고 지원해온 정책이 함께 만든 결과에 가깝다.
미래는 멀리 있지 않다. 지금 이 순간에도 만들어지고 있는 중이다. 다만 그 미래를 완성하는 데 필요한 것은 새로운 기술이나 자본만은 아닐 수 있다. 지금까지 쌓아온 생태계를 믿고, 조급해하지 않고 지켜봐 주는 신뢰가 함께 필요하다. 그런 신뢰가 쌓일 때, 한국의 AI 반도체는 세계 무대에서 생산기지가 아닌 설계자로 불릴 것이다.
