Modelle & Releases

OpenAI veröffentlicht Scaling Laws für NLP-Modellskalierung (Kaplan et al.)

1 Min. Lesezeit Kalina

Bilanz der Quelle: OpenAI veröffentlichte im Januar 2020 das Paper, das die Formel formalisierte, die zwischen Modellgröße, Datensatzgröße, Rechenkapazität und Loss verbindet — die Route, die zu jedem folgenden Billion-Dollar-Training-Run führt und direkt zu GPT-3 führt.
🔗 Im Original weiterlesen → · 🗃 Wayback Machine (Archiv)

ℹ️ KI-Hinweis
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von gwern.net. Es erfolgte keine manuelle redaktionelle Bearbeitung.

Mehr aus Modelle & Releases