Google und Meta öffnen TorchTPU: PyTorch wechselt mit .to(tpu) nativ auf Google-Chips — 52 Prozent MFU über 8.192 Ironwood-Chips und volle DLRM-Parität mit JAX — Der seit Mitte 2025 bei Google gestartete Backend-Entwurf wurde gemeinsam mit dem Meta-PyTorch-Team am 20. Oktober zur PyTorch Conference in San Jose als Open Source freigegeben (Apache 2.0, vier Repositories auf einmal: TorchTPU, vLLM-TorchTPU, SGLang-TorchTPU, TorchTitan); statt PyTorch über XLA in JAX-Konventionen zu zwingen, registriert TorchTPU die TPU über die PrivateUse1-Schnittstelle als normales Gerät — Eager-First mit Standard-Debugging, Beschleunigung über torch.compile; gemessen: 52 Prozent Model-FLOPs-Utilization beim Training von Qwen3-8B über bis zu 8.192 TPU-v7x-Ironwood-Chips, auf einem verteilten 32-Chip-Cluster identische 18,3 ms Steplatenz wie der hochoptimierte JAX-Ausgangswert bei DLRM v2; das Stack läuft laut Google bereits in Produktion bei den größten Google-Cloud-Kunden und bringt vLLM, SGLang, Ray, TorchRec, TorchTitan und Hugging Face mit. PyTorch-Blog · Google Cloud · 🗃 Wayback Machine (Archiv)
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von pytorch.org. Es erfolgte keine manuelle redaktionelle Bearbeitung.
