Tag: vLLM

Beiträge mit dem Schlagwort „vLLM“

autotrust/JEV-27B: Schnelle, kalibrierte Entscheidungen und vollständige Reasoning-Fähigkeiten aus einem offenen Modell

27. September 2026

vLLM V1: Großes Upgrade der Kernarchitektur

27. Januar 2025

vLLM 2024 Rückblick und Vision für 2025

10. Januar 2025

GPTQ: Präzise Post-Training-Quantisierung für Generative Pre-trained Transformers

31. Oktober 2022