Ein 1,3B-Parameter-InstructGPT mit RLHF bevorzugt den 175B-GPT-3 bei der Alignment von LLMs 4. März 2022
Ein 1,3B-Parameter-InstructGPT, feingetunt mit RLHF, bevorzugt den 175B-GPT-3 bei Nutzern 4. März 2022
OpenAI introduces InstructGPT, GPT-3 fine-tuned with reinforcement learning from human feedback (RLHF); labelers preferred the 1.3B InstructGPT outputs over the 175B GPT-3 base model. The technique became the default on the API and the direct methodological precursor of ChatGPT. 27. Januar 2022
OpenAI InstructGPT: 1.3-Millionen Parameter-Modell überwindet GPT-3 mit Reinforcement Learning from Human Feedback 1. Januar 2022