Branchen & Business

Cerebras CS-4: Wafer-Scale Rack Delivers 4,400 Tokens per Second per User on GPT-OSS-120B, up to 30x Faster Than GPUs

1 Min. Lesezeit Kalina

Bilanz der Quelle: Cerebras hat das erste System der neuen Rack-Plattform Nexus, der Cerebras CS-4, auf der Supernova-Veranstaltung in San Francisco vorzustellen. Das CS-4 bietet 4,400 Tokens pro Sekunde pro Nutzer auf der GPT-OSS-120B-Implementierung und ist um 30% schneller als GPU-Inferenzdienste.
🔗 Im Original weiterlesen → · 🗃 Wayback Machine (Archiv)

ℹ️ KI-Hinweis
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von cerebras.ai. Es erfolgte keine manuelle redaktionelle Bearbeitung.

Mehr aus Branchen & Business