Hierarki Arahan: Latih LLM Utamakan Arahan Terlindung
OpenAI News membentangkan konsep 'Instruction Hierarchy', kaedah latihan untuk menjadikan LLM mengutamakan arahan terlindung berbanding arahan luar. Ia bertujuan mengurangkan kebolehan suntikan prompt, jailbreak dan serangan yang cuba menulis ganti arahan asal model.