LLMflation: Token-Preise fallen um eine Größenordnung pro Jahr, GPT-3-Niveau kostet nur noch 0,06 Dollar je Million Tokens 12. November 2024
Ein 1,3B-Parameter-InstructGPT, feingetunt mit RLHF, bevorzugt den 175B-GPT-3 bei Nutzern 4. März 2022
OpenAI introduces InstructGPT, GPT-3 fine-tuned with reinforcement learning from human feedback (RLHF); labelers preferred the 1.3B InstructGPT outputs over the 175B GPT-3 base model. The technique became the default on the API and the direct methodological precursor of ChatGPT. 27. Januar 2022
OpenAI InstructGPT: 1.3-Millionen Parameter-Modell überwindet GPT-3 mit Reinforcement Learning from Human Feedback 1. Januar 2022