KT는 자체 개발한 AI 모델 라우팅 기술 ‘오토모델라우터’가 LLM 라우터 공개 벤치마크 ‘라우터 아레나’에서 종합 2위를 기록했다고 밝혔다. 이 기술은 여러 AI 모델 가운데 사용자의 요청에 가장 알맞은 모델을 자동으로 고른다. 요청의 업무 유형, 난이도, 지식 분야를 분석한 뒤, 각 모델의 응답 품질과 이용 비용을 함께 반영한 정책으로 처리 대상을 정한다. 단순히 최고 성능 모델이나 최저 비용 모델을 고정적으로 고르는 방식과는 다르다.

라우터 아레나는 미국 라이스대학교 연구진이 만든 평가 플랫폼으로, 8400개 질의를 바탕으로 정확도, 비용 효율성, 입력 변화에 대한 견고성을 함께 본다. KT의 기술은 공개 리더보드에서 ‘KT-ModelRouter’ 이름으로 등재됐고, 정확도와 비용을 함께 평가하는 ‘Acc-Cost Arena’ 기준 2위에 올랐다. KT는 이 기술을 ‘토큰 팩토리’ 등 에이전틱 AI 서비스에 적용해, 기업이 여러 모델을 일일이 비교하지 않고도 업무 수준과 예산에 맞는 운영 환경을 구성하도록 지원할 계획이다.