NadiAIGlobal AI news. Concise. Clear. Easy to follow.
Hugging Face menerbitkan kajian kes CFM yang meneroka kaedah melaraskan model kecil dengan memanfaatkan pandangan daripada model bahasa besar (LLM). Kajian itu menunjukkan pendekatan praktikal untuk meningkatkan prestasi model kecil sambil menilai kos dan strategi pelaksanaan.
Hugging Face memperkenalkan rangka kerja penilaian 3C3H dan penanda AraGen untuk menilai model bahasa besar (LLM) secara lebih holistik. Artikel blog itu menerangkan papan kedudukan berasaskan AraGen serta metodologi 3C3H yang bertujuan memperbaiki kebolehbandingan dan ketelusan penilaian.
Menurut catatan blog Hugging Face, mereka menjalankan penanda aras prestasi model bahasa pada pelayan berasaskan Intel 5th Gen Xeon di Google Cloud Platform. Artikel itu menerangkan metodologi ujian dan membincangkan implikasi prestasi untuk penggunaan CPU pada beban kerja pemodelan bahasa.
Hugging Face memperkenalkan Bamba, versi hibrid model Mamba2 yang dioptimumkan untuk kecekapan inferens. Ia direka untuk mengurangkan kos dan masa inferens sambil mengekalkan prestasi, menurut keterangan rasmi Hugging Face.
Menurut Hugging Face, NVIDIA memperkenalkan LogitsProcessorZoo untuk mengawal proses penjanaan model bahasa. Ia menyediakan koleksi pemproses skor (logits) yang boleh dipakai untuk membetulkan kemunculan token dan tingkah laku output semasa penyahsusunan.
Hugging Face menerangkan cara memvisualkan dan menganalisis penggunaan memori GPU ketika model PyTorch berjalan. Panduan itu membincangkan alat dan teknik untuk mengesan kebocoran, menjejak alokasi tensor, dan mengoptimumkan penggunaan memori.
Artikel Hugging Face menganalisis hubungan antara pelepasan CO₂ dan prestasi model menggunakan data dari Open LLM Leaderboard. Laporan itu memberi gambaran tentang kompromi antara prestasi model dan impak karbon operasi.
Hugging Face Blog membincangkan kemunculan ejen AI dan persoalan tentang arah perkembangannya. Artikel itu mengajak pembaca menilai implikasi teknologi ini dari segi penggunaan, alat sokongan dan keperluan dasar.
Menurut Hugging Face Blog, mereka mengumumkan integrasi yang membolehkan model timm digunakan terus dalam rangka kerja Transformers. Integrasi ini memudahkan pemaju menggabungkan model penglihatan timm dengan alat dan aliran kerja Transformers untuk pembangunan dan ujian.
Hugging Face mengumumkan sokongan multi-backend (TRT-LLM, vLLM) untuk Text Generation Inference. Sokongan ini memberi fleksibiliti pemilihan backend dan pilihan prestasi untuk aplikasi penjanaan teks.
Hugging Face mengumumkan kerjasama dengan FriendliAI untuk mempercepat penyebaran model di Hugging Face Hub. Kerjasama itu bertujuan memudahkan dan mempercepat proses penyebaran serta integrasi model bagi pembangun.
Hugging Face menerbitkan newsletter 'AI Tools for Art' edisi pertama yang menyorot alat dan perkembangan AI berkaitan seni. Menurut Hugging Face, edisi ini menyediakan ringkasan alat, sumber dan pautan untuk pembangun serta artis yang berminat.