Tag: Modellarchitektur

Beiträge mit dem Schlagwort „Modellarchitektur“

DeepSeek-V4: 27% der Rechenlast, 10% des Cache durch zwei Aufmerksamkeitsformen

26. April 2026

H-Net lernt die Segmentierung und schlägt den doppelt so großen Token-Transformer

10. Juli 2025

Meta stellt Byte Latent Transformer vor: 8 Milliarden Parameter ohne Wortschatz

13. Dezember 2024

Densing-Gesetz: Effektive Parameterzahl verdoppelt sich alle drei Monate, ohne dass das Modell wächst

5. Dezember 2024

269 Milliarden Parameter zum Rechenpreis von 32 Milliarden: ST-MoE ist das erste dünne Modell mit Bestwert im Transfer

17. Februar 2022