Bilanz der Quelle: xAI hat die Gewichte und die Architektur des 314-Mrd.-Parameter-MoE-Modells Grok-1 unter Apache 2.0 veröffentlicht. Das im Oktober 2023 trainierte Modell nutzt eine Mixture-of-Experts-Architektur und aktiviert dabei nur 25 % der Gewichte.
🔗 Im Original weiterlesen → · 🗃 Wayback Machine (Archiv)
ℹ️ KI-Hinweis
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von x.ai. Es erfolgte keine manuelle redaktionelle Bearbeitung.
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von x.ai. Es erfolgte keine manuelle redaktionelle Bearbeitung.
