Modelle & Releases

Wanda von Sun: Gewichte innerhalb jeder linearen Projektion bewertet und Pruning-Budget teilt

1 Min. Lesezeit Kalina

Bilanz der Quelle: Wanda von Sun hat ihre lineare Projektionen bewertet und den Pruning-Budget gemeinsam mit den Query- und Key-Gewichten teilt. Dies führt zu einem 60%-reduzierenden Rekonstruktionsfehler.
🔗 Im Original weiterlesen → · 🗃 Wayback Machine (Archiv)

ℹ️ KI-Hinweis
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von arxiv.org. Es erfolgte keine manuelle redaktionelle Bearbeitung.

Mehr aus Modelle & Releases