Modelle & Releases

Large Language Bayes ist nicht reparametrisierungsinvariant: dieselbe Masse, Gewichte bis Faktor 31,9 verschieden

1 Min. Lesezeit Kalina

Bilanz der Quelle: Large Language Bayes beantwortet eine informelle Modellierungsfrage indem es probabilistische Programme aus einem Sprachmodell zieht, auf jedem approximative Inferenz lauft und über Evidenzschranken gewichtet. Diese Gewichtung haengt aber davon ab, wie das Modell geschrieben ist: Die log-marginale Likelihood ist invariant unter Reparametrisierung, die Evidenzschranke nicht. Auf Eight Schools sind zentriertes und nicht-zentriertes Programm bis 5,7 x 10^-14 dieselbe Masse, ihre Gewichte untersch
🔗 Im Original weiterlesen → · 🗃 Wayback Machine (Archiv)

ℹ️ KI-Hinweis
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von arxiv.org. Es erfolgte keine manuelle redaktionelle Bearbeitung.

Mehr aus Modelle & Releases