Tag: Inferenz

Sprachmodelle können ihre Aufmerksamkeit selbst steuern

2. September 2026

AMD kauft KI-Chip-Startup Taalas, um Inferenz-Workloads weiter zu unterstützen – DCD

7. August 2026

Inferenzkosten-Paradox: Tokenpreise fallen um das Zehnfache, doch Inferenz frisst 85 Prozent der KI-Enterprise-Budgets

4. Juli 2026

OpenAI und Cerebras: Hochgeschwindigkeits-Inferenz für die breite Masse

14. Januar 2026

TensorRT-LLM 1.0: PyTorch-Architektur und LLM-API jetzt stabil

24. September 2025

Seedance 1.0: ByteDance erkundet die Grenzen der Videogenerierung

10. Juni 2025

Cerebras bringt sofortige Inferenz zu Mistral Le Chat

6. Februar 2025

vLLM V1: Großes Upgrade der Kernarchitektur

27. Januar 2025

MLPerf Power: 1.841 Messungen zeigen riesige Unterschiede im Energieverbrauch von KI-Inferenzen

15. Oktober 2024

Cerebras startet schnellste KI-Inferenz der Welt

27. August 2024

1.000 Adapter in eine gemeinsame Basis gepresst: 80 Prozent des Durchsatzes eines einzelnen Adapters bleiben erhalten

17. Juni 2024

DistServe: Trennung von Prefill und Decoding für optimiertes LLM-Serving

18. Januar 2024