Bilanz der Quelle: Local Support Learning (LSL) ist ein neuer Ansatz, um das Vergessen bei großen vortrainerten Modellen zu verbessern. LSL kombiniert gradientenbasierte Optimierer mit einem Standard-Gewichtsadapter und einer Gating-Funktion, die den Adapter nur auf Eingangsaktivationen aus der eigenen Trainingsverteilung benutzt.
🔗 Im Original weiterlesen → · 🗃 Wayback Machine (Archiv)
ℹ️ KI-Hinweis
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von export.arxiv.org. Es erfolgte keine manuelle redaktionelle Bearbeitung.
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von export.arxiv.org. Es erfolgte keine manuelle redaktionelle Bearbeitung.
