Polisi
Model penalaran sukar kawal rantaian fikir — OpenAI perkenal CoT‑Control
Dengar Ringkasan
Audio AI dalam sebutan Bahasa Melayu Malaysia, berdasarkan ringkasan NadiAI dan sumber asal.
Digest Audio Harian
Dapatkan ringkasan audio harian pada peranti anda.
Pasang NadiAI untuk akses pantas kepada ringkasan audio harian.
- Klik Aktifkan Alert dan benarkan notifikasi daripada NadiAI.
- Jika pilihan Pasang App muncul di address bar, anda boleh pasang NadiAI untuk akses lebih pantas.
- Jika tidak, bookmark halaman ini atau pin tab NadiAI.
Ringkasan
Menurut OpenAI, mereka memperkenalkan CoT‑Control untuk menguji kemampuan model penalaran mengawal 'chain of thought'. Hasil awal menunjukkan model sukar mengawal rantaian fikirannya sendiri, menonjolkan cabaran pemantauan dalaman.
Kenapa Ini Penting
Penemuan ini mengukuhkan kepentingan monitorabiliti sebagai langkah keselamatan AI dan boleh mempengaruhi cara organisasi menguji serta mengawal model sebelum pengeluaran. Bagi pembuat dasar dan perniagaan, ia menekankan keperluan pelaburan dalam alat pemantauan dan kawalan.