Bilanz der Quelle: PrismML hat die Größe von Qwen3.8 27B auf 5.93GB Apache 2.0 reduziert und mit blockweiser Hadamard Rotation auf 1.71 bits/weight. Der Model runs auf RTX 5090 bei 142.5 tok/s und auf M5 Max bei 46.8 tok/s und kann auf 16GB Laptops mit einer fork von llama.cpp aufgenommen werden.
🔗 Im Original weiterlesen → · 🗃 Wayback Machine (Archiv)
ℹ️ KI-Hinweis
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von aiweekly.co. Es erfolgte keine manuelle redaktionelle Bearbeitung.
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von aiweekly.co. Es erfolgte keine manuelle redaktionelle Bearbeitung.
