오픈AI는 자체 개발한 인공지능(AI) 추론용 칩 '할라피뇨(Jalapeno)'가 성능 시험 결과 전력당 AI 처리량과 응답 속도에서 엔비디아의 블랙웰 계열 칩 GB300을 앞섰다고 밝혔다.
25일(현지시간) 블룸버그통신에 따르면 오픈AI는 할라피뇨와 GB300를 비교한 결과 전력당 처리 가능한 AI 작업량과 응답 속도 등 2개 부문에서 할라피뇨가 GB300에 비해 우위를 기록했다고 발표했다.
GB300은 이번 비교에 사용된 공개 벤치마크에서 선두를 달리던 제품이다. 다만 엔비디아는 블랙웰 이후 차세대 아키텍처인 베라 루빈을 공개하고 출하를 시작한 상황이다.
오픈AI는 올해 안에 할라피뇨를 AI 모델 구동에 활용한단 계획이다. 엔비디아에 대한 의존도를 줄이고 자체 AI 인프라를 구축하려는 노력의 일환이다. 오픈AI는 지난해 브로드컴과 협력을 발표하고 맞춤형 추론용 칩인 할라피뇨를 개발해왔다.
오픈AI에서 칩 개발을 총괄하는 리처드 호는 블룸버그 인터뷰에서 할라피뇨가 700와트라는 낮은 전력에서도 뛰어난 성능을 발휘하기 때문에 전력 비용이 핵심인 데이터센터 운영 시 비용 절감 효과가 클 것이라고 기대했다. 그는 "할라피뇨 생산량을 늘릴 수 있고 실제 비용 절감 효과가 예상만큼 크게 나타난다면 할라피뇨를 활용한 AI 작업을 확대할 방침"이라고 말했다.
그에 따르면 할라피뇨의 후속 제품인 2세대 칩 개발도 상당히 진전된 상태다. 호는 2세대 칩이 수개월 내 설계 최종 단계인 테이프아웃에 들어갈 것으로 예상했다. 오픈AI는 이미 3세대 칩 개발 구상에도 착수했다.
다만 오픈AI는 자체 칩 개발을 확대하는 동시에 엔비디아와의 협력을 계속할 방침이다. 호는 "엔비디아는 매우 좋은 파트너이며 앞으로도 엔비디아 칩이 많이 필요하다"고 말했다.
