NadiAIGlobal AI news. Concise. Clear. Easy to follow.
OpenAI describes GPT-Red, an automated red teaming method that uses self-play to identify vulnerabilities and bolster model safety and alignment. The system focuses on improving resistance to prompt injection and other robustness failures through iterative testing.
OpenAI menerangkan usaha mempertingkatkan proses red teaming dengan menggabungkan pemeriksa manusia dan keupayaan AI. Petikan ringkas ini tidak menerangkan butiran metodologi atau keputusan, jadi rujuk artikel asal untuk maklumat lengkap.
OpenAI menerbitkan Kad Sistem untuk o1 dan o1-mini yang menggariskan kerja keselamatan dilakukan sebelum pelancaran. Laporan itu menyebut langkah termasuk red teaming luaran dan penilaian risiko sempadan mengikut 'Preparedness Framework' OpenAI.
OpenAI menerbitkan 'Operator System Card' yang menerangkan pendekatan berlapis untuk keselamatan model dan produk bagi menghalang prompt engineering, jailbreak, dan melindungi privasi serta keselamatan. Dokumen itu juga menggariskan usaha red teaming luaran, penilaian keselamatan, dan kerja berterusan untuk meningkatkan perlindungan.
OpenAI menerbitkan System Card untuk model o3-mini yang menerangkan kerja keselamatan termasuk penilaian keselamatan, red teaming luaran, dan evaluasi Rangka Kerja Kesiapsiagaan. Dokumen itu menggambarkan langkah penilaian dan ujian yang dijalankan tetapi tidak memberikan semua butiran teknikal.