Bilanz der Quelle: Guido Appenzeller von Andreessen Horowitz hat den Begriff LLMflation geprägt und damit eine deflationäre Kostenkurve für KI-Inferenz beschrieben. Ausgangspunkt war GPT-3 im November 2021: Es war das einzige Modell mit einem MMLU-Score von 42 und kostete 60 US-Dollar je Million Tokens. Drei Jahre später erreicht Llama 3.2 3B bei Together.ai denselben Benchmark-Wert für 0,06 Dollar. Das entspricht einer tausendfachen Verbilligung in drei Jahren, also einer vollen Größenordnung pro Jahr – schneller
🔗 Im Original weiterlesen → · 🗃 Wayback Machine (Archiv)
ℹ️ KI-Hinweis
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von a16z.com. Es erfolgte keine manuelle redaktionelle Bearbeitung.
Die Inhalte dieses Artikels wurden automatisiert mittels Künstlicher Intelligenz generiert. Die zugrundeliegenden Daten stammen von a16z.com. Es erfolgte keine manuelle redaktionelle Bearbeitung.
