앤드리슨 호로위츠(a16z)는 GPU 가격 데이터 업체 Ornn 지수를 바탕으로 H200·B200·RTX PRO 6000·H100·A100의 렌탈 가격 흐름을 공개했다. 올해 1월 1일 가격을 100으로 놓고 10월을 비교하면 5종 모두 연초보다 가격이 올랐다. 상승 폭은 H200이 약 2.6배로 가장 컸고, B200·RTX PRO 6000·H100이 뒤를 이었다. 출시 6년 차인 A100도 높은 가격을 유지했다. 주요 하이퍼스케일러의 서버 내용연수인 6년을 적용한 정액 감가상각선과 비교해도, 모든 GPU 가격은 기준선보다 최소 9%에서 최대 143% 높게 나타났다.
배경으로는 AI 토큰 수요 확대가 제시됐다. 오픈라우터에 따르면 주간 토큰 사용량은 지난해 10월 말 약 4.9조 개에서 이달 초 약 167.7조 개로 30배 넘게 늘었다. 오픈소스와 폐쇄형 모델 모두 사용량이 커졌고, AI 에이전트 확산과 함께 구형 GPU 수요도 넓어졌다는 설명이다. 다만 이 수치는 실시간 스팟 거래 기준이어서 하이퍼스케일러나 GPU 클라우드의 공시 가격, 장기 계약 가격과는 차이가 있을 수 있다. 앞으로 가격은 신형 칩과 HBM 수급, 데이터센터 구축 속도, TPU 같은 대체 칩 경쟁에 따라 달라질 수 있다.