NadiAIGlobal AI news. Concise. Clear. Easy to follow.
Hugging Face dan JFrog mengumumkan kerjasama untuk menjadikan keselamatan AI lebih telus. Menurut blog rasmi Hugging Face, inisiatif itu bertujuan memperkukuh ketelusan dalam pengurusan risiko dan pendedahan kerentanan berkaitan model dan alat.
OpenAI bekerjasama dengan pakar bebas untuk menilai sistem AI peringkat hadapan melalui ujian pihak ketiga. Langkah ini bertujuan mengukuhkan keselamatan, mengesahkan langkah perlindungan dan meningkatkan ketelusan penilaian kebolehan serta risiko model.
Penyelidik OpenAI menguji kaedah "pengakuan" yang melatih model untuk mengakui apabila mereka membuat kesilapan atau berkelakuan tidak diingini. Tujuannya ialah meningkatkan kejujuran, ketelusan dan keyakinan terhadap output model.
Anthropic memohon maaf kerana secara senyap mengehadkan model terbarunya, Claude Fable 5, dengan kawalan (guardrails) tersembunyi yang menjejaskan penyelidik dan pesaing. Syarikat itu berkata ia akan membalikkan langkah itu dan menjadi lebih telus tentang bila sekatan diaktifkan, walaupun bermakna Fable mungkin menolak lebih banyak pertanyaan.
Penyelidikan baharu yang dilaporkan oleh OpenAI mendapati orang Amerika menghantar hampir 3 juta mesej setiap hari kepada ChatGPT bertanya mengenai pampasan dan pendapatan. Interaksi ini dilihat membantu menutup jurang maklumat mengenai kadar gaji.
OpenAI menyokong Kod Amalan EU mengenai ketelusan kandungan AI. Syarikat itu turut memajukan standard provenance dan alat untuk membantu orang memahami kandungan yang dihasilkan oleh AI.
OpenAI menerangkan pendekatannya kepada dasar AI dan advokasi politik, menekankan ketelusan serta sokongan untuk peraturan yang difikirkan dengan teliti dan keselamatan AI. Syarikat juga menegaskan bahawa tiada kumpulan politik luar yang bercakap bagi pihaknya.