Modelle & Releases

Verbesserung des Sprachverständnisses durch generatives Vortrainieren

1 Min. Lesezeit Kalina

Bilanz der Quelle: Alec Radford und sein Team stellten GPT-1, OpenAI’s ersten generativen vortrainierten Transformer, vor. Der 117‑M-Parameter‑Decoder-Transformer wurde auf BookCorpus trainiert und für NLP optimiert. GPT-1 erreichte S‑OTAs bei 9 von 12 NLU‑Benchmarks und bildete die Basis für GPT‑2, GPT‑3 und ChatGPT.
🔗 Im Original weiterlesen → · 🗃 Wayback Machine (Archiv)

ℹ️ KI-Hinweis
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von cdn.openai.com. Es erfolgte keine manuelle redaktionelle Bearbeitung.

Mehr aus Modelle & Releases