Workflows & Tools

TorchNeuron öffnet AWS Trainium für unveränderten PyTorch-Code — natives Backend, Apache 2.0, Public Beta ab dem 20. Oktober

1 Min. Lesezeit Kalina

TorchNeuron öffnet AWS Trainium für unveränderten PyTorch-Code — natives Backend, Apache 2.0, Public Beta ab dem 20. Oktober — PyTorch- und AWS-Teams kündigten am 19. Oktober TorchNeuron an: Ein natives PyTorch-Backend für Trainium2 und Trainium3, das über den PrivateUse1-Mechanismus die Hardware-agnostischen Erweiterungspunkte von PyTorch nutzt — Modellcode, Hugging Face Transformers v5 und TorchTitan laufen ohne Umschreiben, einzig die Zieleinheit wird zu .to(‘neuron’). Drin sind: Eager-Modus mit adaptiver Ausführung, torch.compile für Produktion, das Neuron-Kernel-Interface NKI für eigene Kernels sowie ein Neuron-Explorer, der über denselben torch.profiler vom Framework bis zur Hardware tracet. Open Source unter Apache 2.0 am 20. Oktober (PyTorch Conference North America), Public Beta ab demselben Tag. PyTorch-Blog · Amazon · 🗃 Wayback Machine (Archiv)

ℹ️ KI-Hinweis
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von pytorch.org. Es erfolgte keine manuelle redaktionelle Bearbeitung.

Mehr aus Workflows & Tools