구글이 화요일 PyTorch용 오픈소스 프로젝트 TorchTPU를 공개했다. PyTorch는 AI 모델의 개발·학습·실행에 널리 쓰이는 도구로, 기사에 따르면 많은 AI 앱이 기본적으로 Nvidia GPU 환경에 맞춰 작성돼 왔다. TorchTPU는 이런 PyTorch 앱을 구글의 AI 칩인 TPU에서 실행할 수 있게 하며, 기존 앱을 다시 작성하지 않고 설정만 바꿔 TPU와 Google Cloud로 옮길 수 있도록 설계됐다.
기술적으로 중요한 점은 하드웨어 의존성을 낮추려는 흐름이 본격화됐다는 데 있다. 구글은 Meta, Hugging Face, vLLM 개발사 Inferact, SGLang 개발사 RadixArk 등과 협력해 주요 AI 개발 도구와의 호환성을 맞췄다고 밝혔다. 또 앱 이전과 오류 수정을 돕는 TPU agent suite를 함께 내놨고, 휴대폰·노트북·임베디드 기기에서 AI를 실행하는 LiteRT도 업데이트했다. 앞서 아마존도 Trainium과 AWS로 옮길 수 있는 TorchNeuron을 발표했다.
