Modelle & Releases

Tencent öffnet die Gewichte von Hunyuan-Large: 389 Milliarden Parameter-MoE mit 52 Milliarden Aktiven und 256k Kontext

1 Min. Lesezeit Kalina

Bilanz der Quelle: Tencent hat die Gewichte der größten open-source Transformer-MoE-Model Hunyuan-Large auf Hugging Face veröffentlicht. Das Model hat 389 Milliarden Parameter und 52 Milliarden Aktive Parameter pro Pass. Es wird mit einem Kontextschwellenwert von 256000 Tokens und 7 Trillion Tokens (inklusive 1.5 Trillion synthetischer Tokens) trainiert und optimiert für mathematische, programmierende und multilingualer Performance.
🔗 Im Original weiterlesen → · 🗃 Wayback Machine (Archiv)

ℹ️ KI-Hinweis
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von github.com. Es erfolgte keine manuelle redaktionelle Bearbeitung.

Kalina Digest unterstützen

Lesen bleibt frei. Wer mag, gibt etwas zurück — ab 1 € einmalig, oder als Stufe für einen Monat, ein Quartal oder ein Jahr. Bisher: 5.00 € aus 1 Beiträgen.

Zum Shop →