구글은 10월 20일 PyTorch의 TPU 지원 버전인 TorchTPU를 오픈소스로 공개했다. PyTorch는 AI 앱의 구축, 학습, 실행에 널리 쓰이는 도구로, 기사에 따르면 AI 앱의 85%가 사용한다는 집계도 있다. 지금까지 많은 기능이 Nvidia GPU 중심으로 맞춰져 있었는데, TorchTPU는 같은 PyTorch 기반 앱을 구글의 TPU에서 돌릴 수 있게 한다. 기존 앱을 다시 작성하지 않고 간단한 설정 변경만으로 TPU와 Google Cloud로 옮길 수 있도록 한 점이 핵심이다.
비슷한 움직임은 아마존도 보였다. 아마존은 하루 전 Trainium과 AWS로 옮길 수 있는 TorchNeuron을 내놓았고, PyTorch 본체에도 특정 기능을 Nvidia 칩에서 더 분리하는 코드를 제출했다고 밝혔다. 구글은 여기에 더해 Meta, Hugging Face, vLLM 제작사 Inferact, SGLang 제작사 RadixArk 등과 협력해 주요 개발 도구와의 호환성을 맞췄다고 설명했다. 또 앱 이전과 오류 수정을 돕는 TPU agent suite를 공개하고, 모바일·노트북·임베디드 기기용 LiteRT도 업데이트했다. 개발자가 하드웨어 선택을 넓힐 수 있게 하는 변화라는 점이 중요하다.