NadiAIGlobal AI news. Concise. Clear. Easy to follow.
Malaysia mengetuai usaha memajukan tadbir urus kecerdasan buatan melalui Rangkaian Keselamatan AI ASEAN, lapor NAIO AI News. Inisiatif itu disasarkan menggalakkan kerjasama serantau dan menyokong pembangunan piawaian keselamatan AI.
Kerajaan AS mengarahkan Anthropic menarik balik model terbaharu, Fable 5 dan Mythos 5, kerana kebimbangan keselamatan negara selepas laporan Amazon mendakwa cara untuk memintas kawalan Fable 5. Penyelidik keselamatan siber menandatangani surat terbuka mengkritik langkah itu, manakala Anthropic berkata jailbreak serupa wujud pada model lain.
OpenAI mengumumkan pelantikan Zico Kolter ke lembaga pengarahnya. Menurut pengumuman rasmi, beliau juga akan menyertai Jawatankuasa Keselamatan dan Sekuriti untuk memperkukuh kepakaran keselamatan serta penjajaran AI.
OpenAI melaporkan kemajuan dalam kerjasama dengan agensi keselamatan AS (CAISI) dan UK (AISI) untuk memperkukuh keselamatan sistem AI. Kemas kini itu menekankan usaha bersama bagi meningkatkan langkah keselamatan dan kawalan, menurut OpenAI.
Hugging Face Blog memperkenalkan RiskRubric.ai sebagai alat terbuka untuk mendemokrasikan keselamatan AI. Platform ini disifatkan membantu pembuat dasar, pembangun dan komuniti menilai serta berkongsi risiko model dengan lebih mudah.
Google DeepMind mengukuhkan kerjasama dengan UK AI Security Institute untuk mempertingkatkan penyelidikan keselamatan dan sekuriti kritikal AI. Kolaborasi ini menumpukan kepada penyelidikan bersama dan perkongsian kepakaran antara kedua pihak.
DeepMind melancarkan Gemma Scope 2, menyediakan alat interpretabiliti terbuka untuk semua model dalam keluarga Gemma 3. Tujuannya ialah membantu komuniti keselamatan AI mengkaji dan memahami tingkah laku kompleks model bahasa.
Google DeepMind membiayai penyelidikan mengenai potensi bahaya apabila berjuta-juta agen AI berbeza mula berinteraksi secara dalam talian. Menurut Rohin Shah, kebimbangan timbul kerana agen pasaran massa boleh melaksanakan tugas tanpa pengawasan manusia dan menerima arahan daripada agen lain.
Menurut OpenAI, mereka memperkenalkan CoT‑Control untuk menguji kemampuan model penalaran mengawal 'chain of thought'. Hasil awal menunjukkan model sukar mengawal rantaian fikirannya sendiri, menonjolkan cabaran pemantauan dalaman.
OpenAI menerangkan penggunaan pemantauan rantaian pemikiran (chain-of-thought monitoring) untuk mengkaji misalignment dalam agen pengkodan dalaman. Mereka menganalisis penyebaran dunia sebenar bagi mengesan risiko dan memperkukuh langkah keselamatan AI.
Seorang bekas jurutera xAI menyaman xAI dan SpaceX, mendakwa dia diberhentikan selepas membangkitkan isu keselamatan berkaitan model Grok. Dakwaan itu berlaku beberapa hari sebelum IPO bersejarah SpaceX, menurut tuntutan tersebut.