NadiAIGlobal AI news. Concise. Clear. Easy to follow.
OpenAI dan Anthropic menerbitkan penemuan daripada penilaian keselamatan bersama pertama seumpamanya yang menguji model satu sama lain untuk isu seperti ketidakselarasan, pematuhan arahan, halusinasi dan jailbreaking. Laporan itu menonjolkan kemajuan, cabaran yang masih wujud, dan manfaat kerjasama antara makmal.
OpenAI menerangkan punca model bahasa menghasilkan 'hallucination'. Kajian itu menunjukkan penilaian yang lebih baik dapat meningkatkan kebolehpercayaan, kejujuran dan keselamatan sistem AI.
OpenAI memperkenalkan GDPval, penilaian baru yang mengukur prestasi model pada tugas bernilai ekonomi dunia sebenar. Ia menilai kebolehan model merentas 44 pekerjaan berbeza berdasarkan contoh tugas nyata.
DeepMind memperkenalkan Game Arena, platform sumber terbuka untuk penilaian ketat model AI. Ia membolehkan perbandingan satu lawan satu antara sistem termaju dalam persekitaran dengan syarat kemenangan yang jelas.
Hugging Face memperkenalkan olmo-eval, sebuah workbench penilaian untuk menyokong kitaran pembangunan model. Ia direka untuk membolehkan pembangun menguji, membanding dan menilai prestasi model dalam aliran kerja pembangunan.
OpenAI memperkenalkan rangka kerja dan suite penilaian baharu bagi kebolehpantauan chain-of-thought, merangkumi 13 penilaian dalam 24 persekitaran. Hasil awal OpenAI menunjukkan pemantauan proses dalaman model jauh lebih berkesan daripada pemantauan keluaran semata-mata, membuka laluan untuk kawalan yang boleh diskalakan.
Menurut OpenAI, syarikat itu mengumumkan pelaburan baharu sebanyak $110 bilion pada penilaian pra-duit $730 bilion. Pelaburan itu termasuk $30 bilion daripada SoftBank, $30 bilion daripada NVIDIA dan $50 bilion daripada Amazon.
OpenAI memperkenalkan Learning Outcomes Measurement Suite untuk menilai impak AI terhadap pembelajaran pelajar. Alat ini direka untuk mengukur perubahan dari masa ke masa dalam pelbagai persekitaran pendidikan.