베슬AI는 업스테이지의 거대언어모델 '솔라 프로4'에 추론 인프라를 제공했다고 밝혔다. 솔라 프로4는 지난 9월 글로벌 LLM 마켓플레이스 '오픈라우터'에서 실제 이용량 기준 3위를 기록했고, 이 기간 베슬AI가 전 세계 이용자의 추론 요청을 처리하는 글로벌 서비스 운영을 맡았다. 두 회사는 모델 출시 일정과 예상 수요를 함께 공유한 뒤 필요한 추론 용량을 설계했다.

운영에는 한국·유럽·미국의 GPU 클러스터와 자체 추론 엔진 최적화 기술이 쓰였다. 베슬AI는 모델 특성과 실제 이용 패턴에 맞춰 GPU 자원을 구성하고, 캐시 적중률 개선과 모델 양자화, 추론 속도 향상 기술을 적용했다. 그 결과 최적화 전후 처리 속도는 최대 3배 높아졌고, 토큰당 추론 비용은 최대 50% 절감됐다고 설명했다. 회사는 GPU 공급을 넘어 글로벌 AI 모델의 추론 운영까지 사업 범위를 넓히고, 솔라 모델의 글로벌 이용 확대에 필요한 인프라 지원도 이어갈 방침이다.