Bilanz der Quelle: Samsung hat auf Hot Chips die Leistung von LPDDR5X-PIM mit Llama 3.1 (8 Milliarden Parameter) vorgestellt: Die Laufzeit sinkt von 12,3 auf 5,4 Sekunden, der Durchsatz steigt von 27 auf 81,3 Token je Sekunde. Das entspricht einem 2,28-fachen Zeit- und einem 3,01-fachen Durchsatzgewinn. Die Recheneinheiten sitzen direkt im Speicher, wodurch die Datenbewegung entfällt.
🔗 Im Original weiterlesen → · 🗃 Wayback Machine (Archiv)
ℹ️ KI-Hinweis
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von trendforce.com. Es erfolgte keine manuelle redaktionelle Bearbeitung.
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von trendforce.com. Es erfolgte keine manuelle redaktionelle Bearbeitung.
Kalina Digest unterstützen
Lesen bleibt frei. Wer mag, gibt etwas zurück — ab 1 € einmalig, oder als Stufe für einen Monat, ein Quartal oder ein Jahr. Bisher: 5.00 € aus 1 Beiträgen.
