Modelle & Releases

Apple öffnet OpenELM, ein Modell mit 3B Parametern, auf 1,8 Trillionen Token mit Layer-wise Scaling

1 Min. Lesezeit Kalina

Bilanz der Quelle: Apple hat OpenELM, ein Modell mit 3B Parametern auf 1,8 Trillionen Token mit Layer-wise Scaling, veröffentlicht. Das Modell wurde auf RefinedWeb, Pile, RedPajama und Dolma v1.6 trainiert und enthält das vollständige Training- und Inference-Framework mit Datenbereitstellung, Training-Logs, mehrere Zwischenpunkte und Vorbereitungskonfigurationen.
🔗 Im Original weiterlesen → · 🗃 Wayback Machine (Archiv)

ℹ️ KI-Hinweis
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von arxiv.org. Es erfolgte keine manuelle redaktionelle Bearbeitung.

Mehr aus Modelle & Releases