래블업은 29일 서울 코엑스에서 연례 기술 컨퍼런스를 열고 'AI 팩토리' 비전과 1인 1에이전트 시대를 위한 인프라 구상을 발표했다. 이 회사는 GPU 가상화와 ML옵스 기반으로 학습·배포를 지원해 왔고, 2024년 말부터는 추론 효율화까지 범위를 넓혀 AI 작업에 맞춰 자원을 조합하는 인프라 전략을 추진하고 있다. 이번에 제시한 방향은 모델, 반도체, 인프라, 데이터, 에이전트를 필요에 따라 선택해 하나의 환경에서 운용하는 구조다.
기술적으로 눈에 띄는 부분은 AI를 단순 도입 대상이 아니라 측정 가능한 운영 대상으로 본 점이다. 래블업은 토큰, 전력, 지력이라는 기준을 제시했고, 전력은 연산 에너지와 최적화 수준을, 지력은 같은 토큰 안에서 더 어려운 과제를 처리하는 모델 능력을 뜻한다고 설명했다. 여기에 GPU·NPU 가상화, 다중 모델 연결, 사용량 관리, 통합 추론 엔진, 로컬 데이터베이스 구축 기능을 묶고, 개발 중인 마이크로VM·컨테이너 이중 구조로 서버 안의 여러 에이전트를 분리 실행하는 환경도 공개했다.