구글은 '파이토치 컨퍼런스 2026'에서 TPU용 파이토치 소프트웨어 스택 '토치TPU'를 오픈소스로 공개했다. 메타의 파이토치 개발팀과 함께 만든 이 도구는 기존 파이토치 API를 유지한 채 TPU에서 학습, 추론, 배포를 지원한다. 개발자는 코드를 크게 고치지 않고 애플리케이션을 TPU로 옮길 수 있고, 일반 실행 모드에서 오류를 확인한 뒤 'torch.compile'로 성능을 다듬을 수 있다. 분산 학습과 진단 도구도 기본 제공된다.

구글은 모델 실행 외에도 주요 오픈소스 도구를 TPU와 연결했다. 허깅페이스의 트랜스포머스 v5는 'device_map="tpu"' 설정으로 TPU 배치를 지원하고, 디퓨저스는 일반 실행, 컴파일 최적화, 텐서 병렬 처리를 지원한다. vLLM·SGLang용 TPU 백엔드도 마련했고, 쿠버네티스 기반 추론 시스템 'llm-d' 1.0도 공개했다. 학습 쪽에서는 TorchTitan에 TPU 지원을 통합했고, Ray로 CPU·GPU·TPU를 한 작업 흐름에서 함께 쓰도록 했다. 구글은 개발자가 익숙한 파이토치 환경을 유지하면서 자체 칩 활용 범위를 넓히려는 방향을 분명히 했다.