Bilanz der Quelle: xAI hat die Gewichte und die Architektur des 314-Mrd.-Parameter-MoE-Modells Grok-1 unter Apache 2.0 veröffentlicht. Das im Oktober 2023 trainierte Modell nutzt eine Mixture-of-Experts-Architektur und aktiviert dabei nur 25 % der Gewichte.
🔗 Im Original weiterlesen → · 🗃 Wayback Machine (Archiv)
ℹ️ KI-Hinweis
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von x.ai. Es erfolgte keine manuelle redaktionelle Bearbeitung.
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von x.ai. Es erfolgte keine manuelle redaktionelle Bearbeitung.
Kalina Digest unterstützen
Lesen bleibt frei. Wer mag, gibt etwas zurück — ab 1 € einmalig, oder als Stufe für einen Monat, ein Quartal oder ein Jahr. Bisher: 5.00 € aus 1 Beiträgen.