Quantisierung wird schlimmer, je mehr Daten ein Modell sieht: Zusätzliche Trainingsdaten können den Verlust erhöhen
Forschung & Machine Learning

Quantisierung wird schlimmer, je mehr Daten ein Modell sieht: Zusätzliche Trainingsdaten können den Verlust erhöhen

1 Min. Lesezeit Kalina

Bilanz der Quelle: Eine neue Studie zeigt, dass die Quantisierung von Sprachmodellen umso stärker den Verlust erhöht, je mehr Trainingsdaten das Modell verarbeitet hat. Die Forscher fitten ihre Ergebnisse auf 465 Vortrainingsläufe und leiten daraus Vorhersagen für den zusätzlichen Verlust bei niedriger Präzision ab.
🔗 Im Original weiterlesen → · 🗃 Wayback Machine (Archiv)

ℹ️ KI-Hinweis
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von arxiv.org. Es erfolgte keine manuelle redaktionelle Bearbeitung.

Kalina Digest unterstützen

Lesen bleibt frei. Wer mag, gibt etwas zurück — ab 1 € einmalig, oder als Stufe für einen Monat, ein Quartal oder ein Jahr. Bisher: 5.00 € aus 1 Beiträgen.

Zum Shop →