Branchen & Business

Cerebras startet schnellste KI-Inferenz der Welt

1 Min. Lesezeit Kalina

Bilanz der Quelle: Cerebras hat am 27. August 2024 seinen öffentlichen Cloud-Dienst für KI-Inferenz gestartet, der mit 1.800 Tokens pro Sekunde bei Llama 3.1 8B eine Geschwindigkeit bietet, die etwa 20-mal schneller ist als GPU-basierte Hyperscale-Clouds. Der Dienst wird mit einer um 100-fach besseren Preis-Leistungs-Relation beworben, wobei die Ausgabequalität unabhängig verifiziert wurde.
🔗 Im Original weiterlesen → · 🗃 Wayback Machine (Archiv)

ℹ️ KI-Hinweis
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von cerebras.ai. Es erfolgte keine manuelle redaktionelle Bearbeitung.