Modelle & Releases

SparseGPT: Große Sprachmodelle in einem Durchgang auf 50 % Sparsity reduzieren

1 Min. Lesezeit Kalina

Bilanz der Quelle: Forscher haben gezeigt, dass große Sprachmodelle wie OPT-175B und BLOOM-176B in einem einzigen Durchgang auf 50 Prozent Sparsity reduziert werden können, ohne dass ein erneutes Training erforderlich ist. Dies führt zu einer erheblichen Beschleunigung der Inferenz mit minimalem Genauigkeitsverlust.
🔗 Im Original weiterlesen → · 🗃 Wayback Machine (Archiv)

ℹ️ KI-Hinweis
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von arxiv.org. Es erfolgte keine manuelle redaktionelle Bearbeitung.

Mehr aus Modelle & Releases