AI 기업들이 모델 이용 단가는 낮추면서도 빠른 응답에는 별도 요금을 붙인다. 더 똑똑한 모델을 고르는 것뿐 아니라 같은 모델을 얼마나 빨리 돌릴지도 가격을 가르는 기준이 됐다. 클로드 운영사 앤트로픽은 고속 모드에 일반요금의 2배를, 챗GPT 운영사 오픈AI는 초고속 모드에 일반요금의 6배를 받는다.
앤트로픽이 지난 9일 공개한 '클로드 페이블 5.2'의 기본요금은 입력 100만 토큰당 8달러, 출력 40달러다. 이전 모델인 페이블 5.1의 10달러·50달러에서 각각 20% 낮아졌다. 토큰은 AI가 질문을 읽고 답변을 만드는 데 사용하는 데이터 처리 단위다. 여기서 비교하는 가격은 기업·개발자가 자사 서비스에 AI를 연결해 쓰는 API 이용료로, 일반 이용자의 월 구독료와는 다르다.
기본단가는 낮췄지만 빠른 속도에는 그만큼 웃돈을 붙였다. 선택형 '패스트 모드'를 쓰면 입력 100만 토큰당 16달러, 출력 80달러로 각각 2배가 된다. 대신 답변을 생성하는 속도를 일반 모드의 최대 2.5배로 높일 수 있다는 설명이다.
더 비싼 요금을 낸다고 모델이 더 똑똑해지는 것은 아니다. 앤트로픽은 패스트 모드가 같은 모델을 더 빠르게 실행하는 방식이며 지능과 기능은 바뀌지 않는다고 명시했다. 기다리는 시간을 줄여주는 서비스를 파는 셈이다.
오픈AI는 속도별 요금을 더 잘게 나눴다. 공식 API 요금표상 'GPT-6 Astra'의 출력 100만 토큰 요금은 일반 50달러, 고속 100달러, 초고속 300달러다. 같은 모델의 출력량이 같아도 처리 등급에 따라 일반요금의 6배까지 지불하는 구조다. 초고속 모드는 해당 이용 권한을 가진 조직이 사용할 수 있다.
반대로 더 오래 기다릴 수 있는 고객에게는 할인을 제공한다. 앤트로픽은 여러 요청을 묶어 처리하고 나중에 결과를 받는 '배치 처리'에 입력·출력 요금 모두 50% 할인을 적용한다. 페이블 5.2의 출력 100만 토큰 요금만 보면 배치 처리 20달러, 일반 40달러, 고속 80달러로 갈린다. 즉시 답이 필요하지 않은 대량 작업에는 더 저렴한 선택지가 있는 것이다.
기업의 비용 계산도 달라진다. 예컨대 다음 날 아침까지 끝내면 되는 문서 분류와 개발자가 답변을 기다리며 진행하는 코드 수정에 같은 처리 등급을 쓸 필요는 없다. 전자는 저렴한 일괄 처리가, 후자는 대기시간을 줄이는 고속 처리가 적합할 수 있다. 오픈AI도 즉각적인 결과가 필요하지 않은 대량 데이터 작업에는 고속 모드를 쓰지 않도록 권고한다.
기업은 '급행료가 얼마인가'뿐 아니라 '그 돈을 내고 얼마나 시간을 아끼는가'를 따져야 한다. 기본단가가 내려가도 모든 작업에 고속 모드를 적용하면 비용 절감 효과는 줄어들 수 있다.