NadiAIGlobal AI news. Concise. Clear. Easy to follow.
OpenAI dan rakan-rakan menerbitkan kertas kerja yang meramalkan bagaimana aktor berniat jahat boleh menyalahgunakan teknologi AI dan mencadangkan langkah pencegahan serta mitigasi. Kertas itu adalah hasil hampir setahun usaha bersama dengan institusi seperti Future of Humanity Institute, Centre for the Study of Existential Risk, CNAS, Electronic Frontier Foundation dan lain-lain.
Penyelidik OpenAI bekerjasama dengan Georgetown CSET dan Stanford Internet Observatory untuk mengkaji potensi penyalahgunaan model bahasa dalam kempen disinformasi. Laporan bersama, berpunca daripada bengkel Oktober 2021 dan lebih setahun kajian, menggariskan ancaman terhadap persekitaran maklumat dan mencadangkan rangka untuk menilai mitigasi.
OpenAI menerbitkan kad sistem untuk GPT‑5.1‑CodexMax yang menerangkan langkah keselamatan menyeluruh. Dokumen itu menyenaraikan mitigasi peringkat model seperti latihan keselamatan khusus bagi tugas berbahaya dan suntikan arahan, serta mitigasi peringkat produk seperti pengasingan agen dan akses rangkaian boleh dikonfigurasi.