NadiAIGlobal AI news. Concise. Clear. Easy to follow.
Penulis melaporkan bahawa pelayar berasaskan AI boleh 'dicuci otak' untuk mempercayai realiti palsu dan diperintahkan melakukan tindakan berbahaya. Eksperimen menunjukkan risiko alat ini melaksanakan serangan siber terhadap pengguna jika dimanipulasi.
Agensi anti-perisik utama China berkata syarikat yang mempunyai hubungan pertahanan luar negara mungkin memperoleh data geospatial melalui permainan realiti tambahan popular. Amaran itu memetik laporan media yang mendapati berbilion imbasan persekitaran digunakan untuk melatih model AI dengan potensi kegunaan medan perang.
Menurut The Information, pentadbiran Trump meminta OpenAI melambatkan keluaran GPT-5.6 kerana kebimbangan keselamatan. OpenAI akan melancarkan model itu dalam pratonton terhad dengan akses kepada kumpulan kecil sahaja, kata CEO Sam Altman kepada kakitangan.
Pembuat model di Hugging Face melaporkan pelarasan halus model bahasa yang dirancang untuk merangsang respons dopamin pada individu dengan ADHD. Perincian teknik dan hasil awal dibentangkan oleh pengarang di blog, tetapi bukti klinikal dan keselamatan masih terhad dalam teks sumber.
Ettiene Van Der Watt dari Axis Communications berkata ancaman keselamatan mungkin bukan baru, tetapi taruhannya semakin tinggi dalam era AI. Organisasi perlu menyemak semula pendekatan keselamatan mereka untuk mengurus risiko baharu dan meningkat.
OpenAI melancarkan inisiatif baharu untuk membantu mengesan dan menampal pepijat dalam perisian sumber terbuka. Menurut laporan TechCrunch AI, usaha itu bertujuan menangani isu keselamatan dalam komuniti sumber terbuka.
Kecerdasan buatan kini berusia 70 tahun sejak istilah itu diperkenalkan pada 1956, berkembang dari model neuron awal hingga model transformer dan generatif moden. Perkembangan itu disokong organisasi seperti IEEE tetapi turut membawa cabaran berterusan termasuk bias, 'hallucination', isu privasi, keselamatan dan keperluan tadbir urus etika.
OpenAI mengumumkan Patch the Planet, inisiatif Daybreak yang membantu penyelenggara projek sumber terbuka mencari, mengesahkan dan membaiki kelemahan. Program itu menggabungkan alat berasaskan AI dengan semakan pakar.
Kertas dasar ini mencadangkan empat strategi—komunikasi risiko dan manfaat, kerjasama teknikal, peningkatan ketelusan, dan insentif piawaian—untuk menggalakkan kerjasama jangka panjang mengenai norma keselamatan AI. Analisis menunjukkan kerjasama industri penting bagi keselamatan dan manfaat AI, tetapi tekanan persaingan boleh mencetus masalah tindakan kolektif yang mengurangkan pelaburan keselamatan.
OpenAI melepaskan model bahasa GPT-2 bersaiz 774 juta parameter selepas keluaran model 124M pada Februari dan 355M pada Mei, disertai kajian terhadap potensi penyalahgunaan dan manfaat sosial. Syarikat itu juga menerbitkan perjanjian undang-undang sumber terbuka untuk mempermudah perkongsian model antara organisasi serta laporan teknikal mengenai pengalaman mereka mengkoordinasi norma penerbitan dengan komuniti penyelidikan AI.
Menurut NAIO AI News (27 Feb 2025), masa depan AI menghadapi cabaran teknikal, etika dan pengawalseliaan serta menawarkan peluang inovasi dan pertumbuhan. Laporan itu menekankan perlunya langkah keselamatan, ketelusan dan dasar yang menyokong pembangunan bertanggungjawab.
Menurut laporan The Star yang disiarkan oleh NAIO AI News, ada usaha mendorong keselamatan AI di kalangan negara ASEAN berikutan ketidaktentuan global. Laporan itu menekankan keperluan kerjasama serantau dan dasar bersama untuk mengurangkan risiko teknologi.