Modelle & Releases

Google ELECTRA: BERT-Leistung mit einem Viertel des Compute

1 Min. Lesezeit Kalina

Bilanz der Quelle: Google hat ELECTRA, eine neue Pretraining-Methode für Text-Encoder, vorgeteilt. Es lernt als Diskriminator statt als Generator und verwendet plausible Fakes, um jedes Token zu erkennen. ELECTRA erreicht gleichzeitig die Leistung von RoBERTa und XLNet mit weniger als einem Viertel des Computerauslastung und setzt neue SOTA-Ergebnisse auf SQuAD 2.0.
🔗 Im Original weiterlesen → · 🗃 Wayback Machine (Archiv)

ℹ️ KI-Hinweis
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von research.google. Es erfolgte keine manuelle redaktionelle Bearbeitung.

Mehr aus Modelle & Releases