Melatih Semula GPT-2 Menggunakan Maklum Balas Manusia
OpenAI menala semula GPT-2 (774M parameter) menggunakan maklum balas manusia untuk pelbagai tugas dan berjaya menepati pilihan pelabel luaran walaupun ia kadangkala berbeza dengan pasukan mereka. Untuk ringkasan diperlukan 60,000 label kerana pelabel cenderung memilih ayat yang disalin terus dari input, manakala tugas sambungan teks gaya ringkas memerlukan kira-kira 5,000 label.