NadiAIGlobal AI news. Concise. Clear. Easy to follow.
Menurut OpenAI, mereka membangunkan rangka kerja untuk menilai risiko bahawa LLM boleh membantu penciptaan ancaman biologi. Dalam ujian bersama pakar biologi dan pelajar, GPT-4 hanya menunjukkan peningkatan ketepatan yang kecil dan hasilnya belum cukup muktamad, menjadikannya titik permulaan untuk kajian dan perbincangan lanjut.
OpenAI menerbitkan Kad Sistem untuk o1 dan o1-mini yang menggariskan kerja keselamatan dilakukan sebelum pelancaran. Laporan itu menyebut langkah termasuk red teaming luaran dan penilaian risiko sempadan mengikut 'Preparedness Framework' OpenAI.
OpenAI sedang melabur dalam langkah pencegahan dan keupayaan defensif untuk mengatasi risiko yang timbul apabila model AI menjadi lebih berkuasa dalam keselamatan siber. Syarikat itu menjelaskan bagaimana ia menilai risiko, mengehadkan penyalahgunaan, dan bekerjasama dengan komuniti keselamatan untuk memperkuat ketahanan siber.