Tag: GPU-Optimierung

Beiträge mit dem Schlagwort „GPU-Optimierung“

Hugging Face stellt @huggingface/kernels vor: Über 200 WebGPU-Kerne für lokale KI

25. September 2026

DistServe: Trennung von Prefill und Decoding für optimiertes LLM-Serving

18. Januar 2024

FlashAttention-2: Schnellere Attention durch besseres Parallelisieren und Work Partitioning

17. Juli 2023

GPTQ: Präzise Post-Training-Quantisierung für Generative Pre-trained Transformers

31. Oktober 2022