AMD와 국내 AI(인공지능) 소프트웨어 기업 모레가 협력해 AI 데이터센터의 토큰 생산 수익률을 약 60%까지 높일 수 있다는 시뮬레이션 결과를 공개했다. AMD의 GPU(그래픽처리장치) 소프트웨어에 모레의 최적화 기술을 결합해 AI 추론 성능과 경제성을 개선했다는 것이다.
라민 로앤 AMD AI 제품 애플리케이션 엔지니어링 담당 부사장은 4일 서울 강남구 웨스틴 서울 파르나스 호텔에서 열린 'AMD Advancing AI World Tour Seoul 2026'에서 "GPU가 모든 주목을 받지만 실제로 GPU에서 얼마나 많은 가치를 얻을 수 있는지는 소프트웨어가 결정한다"고 말했다.
AMD는 AI 소프트웨어 플랫폼 'ROCm'의 최적화를 통해 동일한 하드웨어에서 6개월 만에 성능을 3.3배 높였다고 밝혔다. 로앤 부사장은 "AI 코딩 에이전트를 활용한 연산 및 메모리 관리 최적화 등이 성능 향상에 기여했다"고 설명했다.
AMD는 개방형 소프트웨어 생태계도 확대하고 있다. ROCm은 실행 환경과 컴파일러, 디버거 등을 오픈소스로 제공한다. 로앤 부사장에 따르면 올해 AMD의 오픈소스 생태계 기여 규모는 10배 증가했다. 업스테이지의 솔라 등 한국 AI 모델도 AMD 환경에서 구동할 수 있다고 소개했다.
이날 무대에는 조강원 모레 대표가 함께 올라 AMD와의 협력 성과를 발표했다. 모레는 ROCm을 기반으로 다양한 AI 모델을 효율적으로 운영하는 '토큰 팩토리 운영체제'를 개발하고 있다.
조 대표는 "과거 AI 데이터센터는 GPU 연산 자원을 고객에게 판매했지만 이제 고객들은 GPU 자체보다 다양한 오픈소스 모델을 활용한 토큰 생성을 요구한다"며 "중요한 것은 최신 모델 지원과 토큰 생산비용"이라고 말했다.
모레는 개별 GPU의 연산 성능뿐 아니라 데이터센터 전체의 작업 분배와 메모리 관리 등을 최적화하고 있다. 특정 제조사의 GPU에 종속되지 않고 서로 다른 반도체를 함께 활용하는 이기종 클러스터 기술도 개발 중이다.
조 대표는 "어떤 단일 칩도 모든 AI 모델과 작업에 최적화될 수는 없다"며 "서로 다른 종류의 칩을 효율적으로 활용하면 추가적인 성능 개선이 가능하다"고 설명했다.
모레는 자체 소프트웨어 최적화를 추가하면 토큰 판매 사업의 이익률을 약 60%까지 높일 수 있다는 시뮬레이션 결과를 공개했다. 토큰 생산 수익률은 데이터센터가 생성한 토큰을 고객에게 판매할 때 매출에서 관련 비용을 제외하고 남는 이익의 비율이다. 예를 들어 매출이 100만원이고 비용이 40만원이라면 이익률은 60%다.
독자들의 PICK
지금 9,925명 읽는 중
조 대표는 기업이 자체 데이터센터를 구축하는 경우에도 운영비용을 비교 대상보다 약 절반으로 줄일 수 있다고 주장했다. 다만 실제 수익률은 AI 모델과 GPU 구성, 토큰 판매가격 등에 따라 달라질 수 있다.
