Google und Meta öffnen TorchTPU: PyTorch wechselt mit .to(tpu) nativ auf Google-Chips — 52 Prozent MFU über 8.192 Ironwood-Chips und volle DLRM-Parität mit JAX — Der seit Mitte 2025 bei Google gestartete Backend-Entwurf wurde gemeinsam mit dem Meta-PyTorch-Team am 20. Oktober zur PyTorch Conference in San Jose als Open Source freigegeben (Apache 2.0, vier Repositories auf einmal: TorchTPU, vLLM-TorchTPU, SGLang-TorchTPU, TorchTitan); statt PyTorch über XLA in JAX-Konventionen zu zwingen, registriert TorchTPU die TPU über die PrivateUse1-Schnittstelle als normales Gerät — Eager-First mit Standard-Debugging, Beschleunigung über torch.compile; gemessen: 52 Prozent Model-FLOPs-Utilization beim Training von Qwen3-8B über bis zu 8.192 TPU-v7x-Ironwood-Chips, auf einem verteilten 32-Chip-Cluster identische 18,3 ms Steplatenz wie der hochoptimierte JAX-Ausgangswert bei DLRM v2; das Stack läuft laut Google bereits in Produktion bei den größten Google-Cloud-Kunden und bringt vLLM, SGLang, Ray, TorchRec, TorchTitan und Hugging Face mit. PyTorch-Blog · Google Cloud · 🗃 Wayback Machine (Archiv)
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von pytorch.org. Es erfolgte keine manuelle redaktionelle Bearbeitung.
Kalina Digest unterstützen
Lesen bleibt frei. Wer mag, gibt etwas zurück — ab 1 € einmalig, oder als Stufe für einen Monat, ein Quartal oder ein Jahr. Bisher: 5.00 € aus 1 Beiträgen.
