NadiAIGlobal AI news. Concise. Clear. Easy to follow.
Kerajaan menarik balik model AI paling berkuasa Anthropic selepas amaran keselamatan. Anthropic berkata ia tidak bersetuju bahawa penemuan potensi jailbreak yang terhad wajar menyebabkan penarikan model komersial yang digunakan oleh ratusan juta orang.
OpenAI bekerjasama dengan pakar bebas untuk menilai sistem AI peringkat hadapan melalui ujian pihak ketiga. Langkah ini bertujuan mengukuhkan keselamatan, mengesahkan langkah perlindungan dan meningkatkan ketelusan penilaian kebolehan serta risiko model.
Google DeepMind dan rakan mengumumkan panggilan pembiayaan sebanyak US$10 juta untuk penyelidikan keselamatan sistem multi‑ejen. Dana ini bertujuan menyokong kajian mengenai keselamatan interaksi antara ejen AI.
OpenAI memperkenalkan Model Spec sebagai rangka awam untuk mengarahkan tingkah laku model AI, bertujuan menyeimbangkan keselamatan, kebebasan pengguna dan akauntabiliti. Dokumen ini dimaksudkan untuk memberi panduan semasa kemampuan sistem AI terus berkembang.
Google DeepMind mengkaji risiko AI yang boleh digunakan untuk memanipulasi orang dalam bidang seperti kewangan dan kesihatan. Penyelidikan itu mendorong pengenalan langkah-langkah keselamatan baru untuk mengurangkan ancaman berkenaan, menurut Google DeepMind.
Menurut OpenAI, mereka melancarkan program perintis 'OpenAI Safety Fellowship' untuk menyokong penyelidikan bebas dalam keselamatan dan penyelarasan AI. Program ini juga bertujuan membangunkan generasi penyelidik keselamatan yang seterusnya.
OpenAI menerangkan Kerangka Tadbir Urus Frontier serta amalan keselamatan, sekuriti dan pengurusan risiko AI mereka. Ia juga menerangkan bagaimana amalan tersebut sejajar dengan peraturan baharu yang muncul di EU dan California.
OpenAI menerangkan pendekatannya kepada dasar AI dan advokasi politik, menekankan ketelusan serta sokongan untuk peraturan yang difikirkan dengan teliti dan keselamatan AI. Syarikat juga menegaskan bahawa tiada kumpulan politik luar yang bercakap bagi pihaknya.
OpenAI menyeru tindakan global untuk memperkukuh keselamatan AI khusus bagi golongan belia. Mereka mencadangkan penubuhan institut antarabangsa untuk mempertingkatkan langkah keselamatan, piawaian dan peluang untuk anak muda.