Hardware, Chips & Cloud

MLPerf Inference v6.1: 5,8 Mio Token/s bei GPT-OSS-120B mit 512 Beschleunigern

1 Min. Lesezeit Kalina

Bilanz der Quelle: MLPerf Inference v6.1 hat einen neuen Rechenleistungsrekord erreicht, indem GPT-OSS-120B mit 512 Beschleunigern fast 5,8 Millionen Token pro Sekunde generiert. Die Bewertung umfasste 120 Systeme verschiedener Hersteller, darunter neue GPUs von NVIDIA, AMD und Intel sowie den Ryzen AI Max+ 395.
🔗 Im Original weiterlesen → · 🗃 Wayback Machine (Archiv)

ℹ️ KI-Hinweis
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von pandromeda.com. Es erfolgte keine manuelle redaktionelle Bearbeitung.

Mehr aus Hardware, Chips & Cloud