Arm은 후지쯔, 메타, 오픈AI의 지원을 받아 에이전틱 AI 워크로드에 맞춘 CPU 성능 평가 방법론을 내놨다. AI 에이전트는 답변 생성에 그치지 않고 도구 호출, 데이터 검색, 코드 실행, 결과 평가를 반복한다. 이 과정에서 CPU는 실행 상태를 관리하고 작업 흐름을 조율하며, 헤드 노드에서는 스케줄링과 데이터 이동까지 맡는다. 그래서 코어 수나 단일 연산 속도만으로는 실제 서비스 성능을 설명하기 어려워졌다는 것이 Arm의 설명이다.
새 방법론은 실제 에이전트 작업을 반영한 워크로드, 반복 가능한 CPU 측정, 최종 작업 결과 검증을 함께 본다. 구성 요소 단위 평가와 엔드투엔드 평가를 병행해 CPU 자체의 영향과 전체 작업 완료량을 구분하려는 방식이다. 독립 평가기관 시그널65가 같은 벤치마크 스크립트로 Arm AGI CPU와 AMD 에픽 9755 기반 서버를 비교한 결과, 7개 워크로드에서 Arm 쪽 랙당 모델링 성능은 평균 1.99배로 제시됐다. 이번 발표는 AI 인프라에서 CPU 평가 기준이 개별 칩 성능보다 데이터센터 단위 처리 효율로 이동하고 있음을 보여준다.