Modelle & Releases

Local Support Learning: Ein neuer Standard für Gradientenbasierte Optimierer

1 Min. Lesezeit Kalina

Bilanz der Quelle: Local Support Learning (LSL) ist ein neuer Standard für Gradientenbasierte Optimierer, der die sub-optimalen Updates von gradientenbasierter Optimierer durch eine Gating-Funktion verbessert. LSL erlaubt es, den Adapter nur auf Eingangsaktivationen aus der eigenen Trainingsverteilung zu trainieren.
🔗 Im Original weiterlesen → · 🗃 Wayback Machine (Archiv)

ℹ️ KI-Hinweis
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von export.arxiv.org. Es erfolgte keine manuelle redaktionelle Bearbeitung.