NadiAIGlobal AI news. Concise. Clear. Easy to follow.
OpenAI menerbitkan rangka kerja yang dikemas kini untuk mengukur dan melindungi terhadap kemudaratan teruk daripada keupayaan frontier AI. OpenAI berkata rangka kerja itu memuatkan pendekatan penilaian dan langkah pencegahan untuk mengurangkan risiko.
OpenAI dan Anthropic menerbitkan penemuan daripada penilaian keselamatan bersama pertama seumpamanya yang menguji model satu sama lain untuk isu seperti ketidakselarasan, pematuhan arahan, halusinasi dan jailbreaking. Laporan itu menonjolkan kemajuan, cabaran yang masih wujud, dan manfaat kerjasama antara makmal.
OpenAI menerangkan punca model bahasa menghasilkan 'hallucination'. Kajian itu menunjukkan penilaian yang lebih baik dapat meningkatkan kebolehpercayaan, kejujuran dan keselamatan sistem AI.
OpenAI dan Microsoft mengeluarkan kenyataan bersama mengumumkan MoU baharu yang mengukuhkan kerjasama mereka. Mereka menegaskan komitmen bersama terhadap keselamatan AI dan penggalakan inovasi, menurut OpenAI News.
OpenAI membina Sora 2 dan aplikasi Sora dengan keselamatan sebagai asas untuk menangani cabaran keselamatan baharu daripada model video termaju dan platform penciptaan sosial. Pendekatan mereka berasaskan perlindungan konkrit untuk mengurangkan risiko dan menyokong penggunaan selamat.
TechCrunch melaporkan CEO Amazon, Andy Jassy, mungkin membangkitkan kebimbangan keselamatan yang mendorong Anthropic menutup akses dua modelnya secara global pada Jumaat. Anthropic menghentikan akses tersebut sementara dan butiran lanjut masih belum disahkan.
Hugging Face mengumumkan kerjasama dengan VirusTotal untuk mempertingkat keselamatan AI, menurut blog rasmi syarikat. Inisiatif ini bertujuan mengukuhkan pertahanan terhadap risiko keselamatan dalam pembangunan dan penggunaan teknologi AI.
Google DeepMind mengumumkan pengukuhan Frontier Safety Framework (FSF) untuk membantu mengenal pasti dan mengurangkan risiko teruk daripada model AI lanjutan. Langkah itu bertujuan memperbaiki kaedah penilaian keselamatan dan tindak balas terhadap ancaman yang berpotensi.
OpenAI bekerjasama dengan lebih 170 pakar kesihatan mental untuk melatih ChatGPT mengenal pasti tekanan emosi, memberi respons empatik dan mengarahkan pengguna kepada sokongan dunia nyata. Menurut OpenAI, usaha ini mengurangkan respons tidak selamat sehingga 80%.
Serangan 'prompt injection' menipu model AI untuk melaksanakan arahan berbahaya atau mendedahkan maklumat sensitif. OpenAI menggerakkan penyelidikan, melatih model dan membina langkah keselamatan untuk mengurangkan risiko bagi pengguna.
OpenAI sedang meneroka interpretabiliti mekanistik untuk memahami cara rangkaian neural membuat rasionalisasi. Pendekatan model jarang baru dikatakan boleh menjadikan sistem AI lebih telus serta menyokong tingkah laku yang lebih selamat dan boleh dipercayai.
OpenAI menerbitkan kad sistem untuk GPT‑5.1‑CodexMax yang menerangkan langkah keselamatan menyeluruh. Dokumen itu menyenaraikan mitigasi peringkat model seperti latihan keselamatan khusus bagi tugas berbahaya dan suntikan arahan, serta mitigasi peringkat produk seperti pengasingan agen dan akses rangkaian boleh dikonfigurasi.