65 Mrd. Parameter, 12 Bio. Token, 32 Mio. Dollar: Dichtes Modell zu einem Zehntel der Kosten 4. November 2026
Englischer Tokenizer verteuert deutsches Training um 68 Prozent: Studie mit 24 Modellen und 2,6 Milliarden Parametern 12. Oktober 2023
Sparse Upcycling: Aus dichten Modellen werden duenne MoE-Modelle mit halben Trainingskosten 9. Dezember 2022