NadiAIGlobal AI news. Concise. Clear. Easy to follow.
OpenAI mencadangkan teknik keselamatan dipanggil iterated amplification yang menentukan tingkah laku kompleks dengan memecahkan tugas kepada sub-tugas lebih mudah. Kajian ini masih pramatang dan hanya diuji pada domain algoritma mainan, tetapi dibentangkan sebagai potensi pendekatan berskala untuk keselamatan AI.
OpenAI menulis kertas yang berhujah bahawa penyelidik sains sosial diperlukan untuk keselamatan AI jangka panjang. Kertas itu menyorot keperluan memahami rasionaliti, emosi dan bias manusia serta menyatakan rancangan OpenAI untuk mengambil saintis sosial sepenuh masa.
Laporan multi-pihak oleh 58 pengarang dari 30 organisasi menerangkan 10 mekanisme untuk meningkatkan kebolehbuktian tuntutan terhadap sistem AI. Mekanisme ini membantu pembangun menyediakan bukti bahawa sistem AI selamat, terjamin, adil atau memelihara privasi, dan membolehkan pengguna serta pembuat dasar menilai proses pembangunan.
Satu laporan keselamatan AI baharu menunjukkan had kognitif manusia dalam menilai dan mengawal risiko AI, menurut Psychology Today (9 Feb 2026). Penulis menegaskan bahawa bias dan keterbatasan mental boleh menjejaskan penilaian keselamatan teknologi ini.
Menurut laporan Crikey, kerajaan Australia sedang menubuhkan sebuah institut keselamatan AI. Terdapat pertikaian tentang skop tugas dan apakah fokusnya akan lebih kepada peraturan, penyelidikan atau penguatkuasaan.
Dilaporkan oleh Futurism, Anthropic menghadkan keupayaan model baharu berasaskan Mythos kerana bimbang tentang potensi kuasanya. Syarikat itu dikatakan mematikan kemampuan model untuk memperbaiki dirinya sendiri sebagai langkah keselamatan.
OpenAI menerangkan pemikiran terkini mereka mengenai keselamatan dan risiko penyalahgunaan model bahasa. Matlamatnya ialah membantu pembangun AI lain menangani isu keselamatan apabila model digunakan.
OpenAI menyatakan misi mereka ialah memastikan kecerdasan am buatan (AGI) — sistem AI yang umumnya lebih pintar daripada manusia — memberi manfaat kepada seluruh umat manusia. Organisasi itu menekankan perancangan rapi dan langkah berhati-hati untuk mencapai matlamat tersebut.
OpenAI menegaskan bahawa memastikan sistem AI dibina, dikerahkan dan digunakan dengan selamat adalah teras misi mereka. Organisasi itu berkata pendekatan keselamatan merangkumi seluruh kitaran hayat sistem, dari reka bentuk hingga penggunaan.
OpenAI mengumumkan program bug bounty untuk mengesan kelemahan keselamatan dalam teknologi dan perkhidmatan mereka. Inisiatif ini sebahagian daripada komitmen syarikat untuk membangunkan AI yang selamat, boleh dipercayai dan bertanggungjawab, dan mereka menggesa orang ramai menyertai usaha ini.
Menurut OpenAI, mereka dan beberapa makmal terkemuka mengukuhkan keselamatan, keselamatan siber, dan kebolehpercayaan model AI melalui komitmen sukarela. Inisiatif ini bertujuan meningkatkan keyakinan awam terhadap penggunaan AI.
OpenAI mengumumkan penubuhan Frontier Model Forum, sebuah badan industri baharu untuk mempromosikan pembangunan selamat dan bertanggungjawab bagi sistem AI frontier. Forum itu menyasarkan penyelidikan keselamatan AI, pengecaman amalan terbaik dan piawaian, serta perkongsian maklumat antara pembuat dasar dan pihak industri.