Modelle & Releases

SmolLM2: 1,7 Milliarden Parameter schlagen Größere dank Datenzentrik – übertraining auf 11 Billionen Wörtern

1 Min. Lesezeit Kalina

Bilanz der Quelle: Hugging Face zeigt, dass gezielte Datenauswahl mehr bringt als Parameterzahl bei großen Modellen. Das 1,7-Milliarden-Parameter-Modell wurde über eine hohe Datenmenge trainiert und übertreibt andere kleine Modelle. Die Rohdaten und Trainingsrezepte werden mitveröffentlicht.
🔗 Im Original weiterlesen → · 🗃 Wayback Machine (Archiv)

ℹ️ KI-Hinweis
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von huggingface.co. Es erfolgte keine manuelle redaktionelle Bearbeitung.