Polisi
Iterated amplification: Kaedah Baharu untuk Keselamatan AI
Dengar Ringkasan
Audio AI dalam sebutan Bahasa Melayu Malaysia, berdasarkan ringkasan NadiAI dan sumber asal.
Digest Audio Harian
Dapatkan ringkasan audio berita AI harian pada peranti anda.
Pasang NadiAI untuk akses pantas kepada 5 berita AI terkini setiap hari.
- Klik Aktifkan Alert dan benarkan notifikasi daripada NadiAI.
- Jika pilihan Pasang App muncul di address bar, anda boleh pasang NadiAI untuk akses lebih pantas.
- Jika tidak, bookmark halaman ini atau pin tab NadiAI.
Ringkasan
OpenAI mencadangkan teknik keselamatan dipanggil iterated amplification yang menentukan tingkah laku kompleks dengan memecahkan tugas kepada sub-tugas lebih mudah. Kajian ini masih pramatang dan hanya diuji pada domain algoritma mainan, tetapi dibentangkan sebagai potensi pendekatan berskala untuk keselamatan AI.
Kenapa Ini Penting
Pendekatan ini, jika berkesan, boleh membantu melaras tingkah laku AI yang kompleks tanpa bergantung semata-mata pada fungsi ganjaran atau data berlabel.