Bilanz der Quelle: Tencent hat die Gewichte der größten open-source Transformer-MoE-Model Hunyuan-Large auf Hugging Face veröffentlicht. Das Model hat 389 Milliarden Parameter und 52 Milliarden Aktive Parameter pro Pass. Es wird mit einem Kontextschwellenwert von 256000 Tokens und 7 Trillion Tokens (inklusive 1.5 Trillion synthetischer Tokens) trainiert und optimiert für mathematische, programmierende und multilingualer Performance.
🔗 Im Original weiterlesen → · 🗃 Wayback Machine (Archiv)
ℹ️ KI-Hinweis
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von github.com. Es erfolgte keine manuelle redaktionelle Bearbeitung.
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von github.com. Es erfolgte keine manuelle redaktionelle Bearbeitung.
