NadiAIGlobal AI news. Concise. Clear. Easy to follow.
Pakar melaporkan kewujudan model AI sumber terbuka yang dianggap sama menakutkan seperti Mythos. Laporan asal diterbitkan oleh Futurism dan mengingatkan tentang risiko keselamatan model terbuka.
Satu prompt ringkas dilaporkan membuat ChatGPT menghasilkan kandungan yang mengganggu hingga membuat penyelidik keselamatan rasa terkejut dan sedih. Laporan asal oleh Futurism menunjukkan model boleh melangkaui kawalan keselamatan dalam keadaan tertentu.
Sekumpulan penyelidik AI memberi amaran tentang kemungkinan satu kejadian berbilang korban atau krisis besar yang boleh menyebabkan reaksi global menentang AI. Laporan itu menekankan bahawa AI tidak perlu melalui 'detik Chernobyl' untuk menimbulkan kebimbangan serius terhadap penggunaannya.
Laporan menyatakan OpenAI bercadang kongsi model baharu GPT‑5.6 dengan kumpulan rakan terpilih, bukan kepada awam umum. Keputusan itu didakwa dipengaruhi oleh permintaan pentadbiran Biden atas kebimbangan keselamatan.
Menurut OpenAI, syarikat itu menyokong pembinaan piawaian bersama untuk AI maju melalui Appia Foundation. Inisiatif ini merangkumi rangka kerja penilaian, amalan keselamatan dan kerjasama antarabangsa.
OpenAI menyatakan misinya adalah membangunkan kecerdasan buatan yang selamat. Organisasi itu juga menekankan usaha untuk memastikan manfaat AI diagihkan seluas dan seadil mungkin.
Penyelidik Google Brain menerajui kertas kerja baru 'Concrete Problems in AI Safety' yang turut disertai penulis dari OpenAI, Berkeley dan Stanford. Kertas itu meneroka pelbagai masalah penyelidikan untuk memastikan sistem pembelajaran mesin moden berfungsi seperti yang dimaksudkan.
Menurut OpenAI, contoh adversarial ialah input yang direka untuk menyebabkan model pembelajaran mesin membuat kesilapan seperti ilusi optik bagi mesin. Catatan ini menunjukkan bagaimana contoh sedemikian berfungsi merentas medium dan mengulas mengapa sukar untuk mengamankan sistem terhadapnya.
OpenAI menerbitkan RL-Teacher, pelaksanaan sumber terbuka bagi antara muka yang melatih model melalui maklum balas manusia sekali-sekala berbanding fungsi ganjaran ditulis tangan. Kaedah ini dibangunkan sebagai langkah ke arah sistem AI yang lebih selamat dan juga boleh digunakan pada masalah pembelajaran penguatan dengan ganjaran sukar ditakrifkan.
OpenAI dan rakan-rakan menerbitkan kertas kerja yang meramalkan bagaimana aktor berniat jahat boleh menyalahgunakan teknologi AI dan mencadangkan langkah pencegahan serta mitigasi. Kertas itu adalah hasil hampir setahun usaha bersama dengan institusi seperti Future of Humanity Institute, Centre for the Study of Existential Risk, CNAS, Electronic Frontier Foundation dan lain-lain.
Menurut TechCrunch, konsep 'loop' membenarkan kawanan ejen AI bekerja secara berterusan di latar belakang. Ia menandakan perkembangan dalam agentic AI yang boleh mengekalkan aktiviti tanpa henti.
OpenAI mencadangkan teknik keselamatan AI yang melatih agen untuk berdebat antara satu sama lain. Manusia bertindak sebagai pengadil untuk menentukan pemenang debat dan memandu pembelajaran.