Modelle & Releases

NVIDIA veröffentlicht die Nemotron-H Reasoning-Modellfamilie am 6. Juni 2025: Nemotron-H-47B-Reasoning-128K und Nemotron-H-8B-Reasoning-128K, in BF16 und FP8 quantisiert Form. Diese Hybrid-Mamba-Transformer-Modellarchitekturen ersetzen die meisten selbst-attention-Lagern mit Mamba-Lagern, die sich auf konstantes Rechenvermögen und konstantes Speichervermögen per generierter Sätze konstanterweise konstantenkenken. NVIDIA berichtet, dass die Inference-Throughput von bis zu drei Mal höher als vergleichbare offene pure-Transformer-Modelle wie Qwen2.5-7B/72B und Llama3.1-8B ist

1 Min. Lesezeit Kalina

Bilanz der Quelle: NVIDIA hat am 6. Juni 2025 die Nemotron-H Reasoning-Modellfamilie veröffentlicht. Diese Hybrid-Mamba-Transformer-Modellarchitekturen ersetzen die meisten selbst-attention-Lagern mit Mamba-Lagern, die sich auf konstantes Rechenvermögen und konstantes Speichervermögen per generierter Sätze konstanterweise konstantenkenkenken. NVIDIA berichtet, dass die Inference-Throughput von bis zu drei Mal höher ist als vergleichbare offene pure-Transformer-Modelle.
🔗 Im Original weiterlesen → · 🗃 Wayback Machine (Archiv)

ℹ️ KI-Hinweis
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von developer.nvidia.com. Es erfolgte keine manuelle redaktionelle Bearbeitung.

Mehr aus Modelle & Releases