Modelle & Releases

Falcon-H1: Tii mischt Transformer-Attention und Mamba-2 im selben Block – sechs offene Modelle von 0,5 bis 34 Milliarden Parametern

1 Min. Lesezeit Kalina

Bilanz der Quelle: Das Technologie-Institut der UAE hat Falcon-H1 vor, die erste Serie, die klassische Attention-Mechanismen und Mamba-2-Zustandsraum-Komponenten parallel in einem hybriden Mixer-Block kombiniert. Die sechs Modelle reichen von 0,5 bis 34 Milliarden Parametern und zielen auf hohe Inferenz-Effizienz bei gleichbleibender genereller Sprachverständigung.
🔗 Im Original weiterlesen → · 🗃 Wayback Machine (Archiv)

ℹ️ KI-Hinweis
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von huggingface.co. Es erfolgte keine manuelle redaktionelle Bearbeitung.