오케스트로 그룹은 퓨리오사AI와 'NPU 기반 AI 인프라 및 플랫폼 기술·사업 협력' MOU를 체결했다고 21일 밝혔다. 양사는 올해 초부터 퓨리오사AI의 2세대 NPU '레니게이드(RNGD)'와 오케스트로 AI 인프라 소프트웨어를 연동하는 기술 협력을 진행해 왔다.
오케스트로는 퓨리오사AI NXT 레니게이드 서버를 자사 AI 인프라 환경에 구축해 호환성과 주요 기능을 검증했다. 또 레니게이드 기반 대형언어모델(LLM)을 실제 서비스 환경에서 안정적으로 배포하고 서빙·운영하기 위한 기술을 단계적으로 구현했다. 이 과정으로 기존에 GPU 중심으로 제공하던 AI 추론 운영 플랫폼 '콘체르토 AI(CONCERTO A.I.)'의 지원 범위를 NPU까지 확장했다.
콘체르토 AI는 AI 모델 배포와 서빙, 컴퓨팅 자원 관리, 서비스 모니터링을 통합 지원하는 플랫폼이다. 이번 확장으로 사용자는 NPU 기반 LLM 서빙 환경을 구축하는 부담을 줄이고 AI 서비스를 더 손쉽게 운영할 수 있게 됐다. 양사는 앞으로 다양한 AI 모델과 워크로드를 대상으로 성능과 안정성을 계속 검증하고, 고객 대상 BMT와 실증을 통해 실제 서비스 환경에 맞는 구축·운영 모델을 구체화할 계획이다.