Englischer Tokenizer verteuert deutsches Training um 68 Prozent: Studie mit 24 Modellen und 2,6 Milliarden Parametern
Forschung & Machine Learning

Englischer Tokenizer verteuert deutsches Training um 68 Prozent: Studie mit 24 Modellen und 2,6 Milliarden Parametern

1 Min. Lesezeit Kalina

Bilanz der Quelle: Eine Studie trainierte 24 Modelle mit insgesamt 2,6 Milliarden Parametern und zeigt, dass ein englischzentrierter Tokenizer die Trainingskosten für deutsche Dokumente um bis zu 68 Prozent erhöht. Zudem liefern die üblichen Kennzahlen Fertility und Parity keine zuverlässige Vorhersage der Modellqualität.
🔗 Im Original weiterlesen → · 🗃 Wayback Machine (Archiv)

ℹ️ KI-Hinweis
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von arxiv.org. Es erfolgte keine manuelle redaktionelle Bearbeitung.

Kalina Digest unterstützen

Lesen bleibt frei. Wer mag, gibt etwas zurück — ab 1 € einmalig, oder als Stufe für einen Monat, ein Quartal oder ein Jahr. Bisher: 5.00 € aus 1 Beiträgen.

Zum Shop →