Modelle & Releases

Local Support Learning: Eine Lösung für das Vergessen bei großen vortrainierten Modellen

1 Min. Lesezeit Kalina

Bilanz der Quelle: Local Support Learning (LSL) ist ein neuer Ansatz, um das Vergessen bei großen vortrainerten Modellen zu verbessern. LSL kombiniert gradientenbasierte Optimierer mit einem Standard-Gewichtsadapter und einer Gating-Funktion, die den Adapter nur auf Eingangsaktivationen aus der eigenen Trainingsverteilung benutzt.
🔗 Im Original weiterlesen → · 🗃 Wayback Machine (Archiv)

ℹ️ KI-Hinweis
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von export.arxiv.org. Es erfolgte keine manuelle redaktionelle Bearbeitung.

Kalina Digest unterstützen

Lesen bleibt frei. Wer mag, gibt etwas zurück — ab 1 € einmalig, oder als Stufe für einen Monat, ein Quartal oder ein Jahr. Bisher: 5.00 € aus 1 Beiträgen.

Zum Shop →