Google otvoril TorchTPU, natívny backend PyTorch pre Cloud TPU

Google TorchTPU je od 20. októbra 2026 dostupný ako open-source projekt. Ide o natívny backend frameworku PyTorch pre akcelerátory Google Cloud TPU. Verejný repozitár google-pytorch/torch_tpu používa licenciu Apache 2.0 a Google projekt vytvoril v spolupráci s tímom PyTorch v Mete.

Vydanie má vývojárom umožniť používať PyTorch na Cloud TPU priamo prostredníctvom natívneho backendu. Google v oficiálnej dokumentácii odporúča TorchTPU pre nové pracovné záťaže a uvádza ho ako náhradu za doterajší projekt PyTorch/XLA.

Google TorchTPU prináša backend pre Cloud TPU

TorchTPU rozširuje PyTorch o podporu TPU zariadení a podľa dokumentácie umožňuje pracovať s nimi cez torch.device("tpu"). Projekt zahŕňa ATen kernely, cache kompilácie, distribuovaný tréning aj integráciu s torch.compile.

Integrácia s torch.compile má TorchTPU zaradiť do štandardného spôsobu optimalizácie PyTorch programov.

Projekt je verejne dostupný na GitHube pod organizáciou google-pytorch. Repozitár uvádza aj vydanie verzie 0.2.0 na PyPI, takže balík je možné distribuovať prostredníctvom bežného kanála Python ekosystému.

Náhrada za PyTorch/XLA

Doterajšou cestou k používaniu PyTorch na TPU bol PyTorch/XLA, teda vrstva prepájajúca PyTorch s kompilátorom XLA. Google teraz v dokumentácii uvádza TorchTPU ako riešenie, ktoré PyTorch/XLA nahrádza pri nových nasadeniach.

Pre tímy používajúce PyTorch je podstatné, že Google prezentuje nový backend ako natívnu súčasť práce s frameworkom, nie ako oddelenú integračnú vrstvu. Zámerom je sprístupniť tréning aj inferenciu na Cloud TPU bez prepisovania projektov do JAXu alebo využívania staršieho PyTorch/XLA.

PyTorch Foundation samostatne označila TorchTPU za open-source spoluprácu Google a Meta a za natívny backend pre Google TPU. Táto spolupráca je relevantná najmä preto, že PyTorch je významným ekosystémom pre vývoj a prevádzku modelov umelej inteligencie.

Význam pre nástroje v PyTorch ekosystéme

Natívna podpora TPU môže rozšíriť hardvérové možnosti pre vývojárov, ktorí už stavajú na PyTorch. Faktický prehľad k oznámeniu uvádza možnú lepšiu interoperabilitu s nástrojmi a projektmi, ako sú vLLM, SGLang, Hugging Face či TorchTitan.

Licencia Apache 2.0 patrí medzi permisívne open-source licencie a repozitár je verejne dostupný.

Výkon a kompatibilitu preverí prax

Google k TorchTPU uvádza prínosy súvisiace s používaním TPU v prostredí PyTorch, no konkrétne tvrdenia o zrýchlení, nákladoch alebo jednoduchosti migrácie zatiaľ neboli v dostupných podkladoch nezávisle benchmarkované. Rovnako sa ešte musí potvrdiť dlhodobá kompatibilita so všetkými existujúcimi PyTorch modelmi a knižnicami.

Pri nasadzovaní bude preto dôležité sledovať nezávislé merania výkonu, stability a kompatibility. Pozornosť si zaslúži aj tempo migrácie existujúcich projektov z PyTorch/XLA a rozsah podpory v nástrojoch určených pre inferenciu a distribuovaný tréning.

Overené a aktualizované: 21. 10. 2026 06:20