NadiAIGlobal AI news. Concise. Clear. Easy to follow.
OpenAI bersama penyelidik Google memperkenalkan activation atlases, teknik baru untuk memvisualkan interaksi antara neuron. Alat ini bertujuan membantu memahami proses keputusan dalaman model supaya kelemahan dan kegagalan dapat dikenalpasti dan disiasat.
OpenAI menala semula GPT-2 (774M parameter) menggunakan maklum balas manusia untuk pelbagai tugas dan berjaya menepati pilihan pelabel luaran walaupun ia kadangkala berbeza dengan pasukan mereka. Untuk ringkasan diperlukan 60,000 label kerana pelabel cenderung memilih ayat yang disalin terus dari input, manakala tugas sambungan teks gaya ringkas memerlukan kira-kira 5,000 label.
Menurut laporan The Star yang disiarkan oleh NAIO AI News, ada usaha mendorong keselamatan AI di kalangan negara ASEAN berikutan ketidaktentuan global. Laporan itu menekankan keperluan kerjasama serantau dan dasar bersama untuk mengurangkan risiko teknologi.
Malaysia mengetuai usaha memajukan tadbir urus kecerdasan buatan melalui Rangkaian Keselamatan AI ASEAN, lapor NAIO AI News. Inisiatif itu disasarkan menggalakkan kerjasama serantau dan menyokong pembangunan piawaian keselamatan AI.
Kerajaan AS mengarahkan Anthropic menarik balik model terbaharu, Fable 5 dan Mythos 5, kerana kebimbangan keselamatan negara selepas laporan Amazon mendakwa cara untuk memintas kawalan Fable 5. Penyelidik keselamatan siber menandatangani surat terbuka mengkritik langkah itu, manakala Anthropic berkata jailbreak serupa wujud pada model lain.
OpenAI mengumumkan pelantikan Zico Kolter ke lembaga pengarahnya. Menurut pengumuman rasmi, beliau juga akan menyertai Jawatankuasa Keselamatan dan Sekuriti untuk memperkukuh kepakaran keselamatan serta penjajaran AI.
OpenAI melaporkan kemajuan dalam kerjasama dengan agensi keselamatan AS (CAISI) dan UK (AISI) untuk memperkukuh keselamatan sistem AI. Kemas kini itu menekankan usaha bersama bagi meningkatkan langkah keselamatan dan kawalan, menurut OpenAI.
Hugging Face Blog memperkenalkan RiskRubric.ai sebagai alat terbuka untuk mendemokrasikan keselamatan AI. Platform ini disifatkan membantu pembuat dasar, pembangun dan komuniti menilai serta berkongsi risiko model dengan lebih mudah.
Google DeepMind mengukuhkan kerjasama dengan UK AI Security Institute untuk mempertingkatkan penyelidikan keselamatan dan sekuriti kritikal AI. Kolaborasi ini menumpukan kepada penyelidikan bersama dan perkongsian kepakaran antara kedua pihak.
DeepMind melancarkan Gemma Scope 2, menyediakan alat interpretabiliti terbuka untuk semua model dalam keluarga Gemma 3. Tujuannya ialah membantu komuniti keselamatan AI mengkaji dan memahami tingkah laku kompleks model bahasa.
Google DeepMind membiayai penyelidikan mengenai potensi bahaya apabila berjuta-juta agen AI berbeza mula berinteraksi secara dalam talian. Menurut Rohin Shah, kebimbangan timbul kerana agen pasaran massa boleh melaksanakan tugas tanpa pengawasan manusia dan menerima arahan daripada agen lain.
Menurut OpenAI, mereka memperkenalkan CoT‑Control untuk menguji kemampuan model penalaran mengawal 'chain of thought'. Hasil awal menunjukkan model sukar mengawal rantaian fikirannya sendiri, menonjolkan cabaran pemantauan dalaman.