NadiAIGlobal AI news. Concise. Clear. Easy to follow.
Hugging Face memperkenalkan Bamba, versi hibrid model Mamba2 yang dioptimumkan untuk kecekapan inferens. Ia direka untuk mengurangkan kos dan masa inferens sambil mengekalkan prestasi, menurut keterangan rasmi Hugging Face.
Menurut Hugging Face, NVIDIA memperkenalkan LogitsProcessorZoo untuk mengawal proses penjanaan model bahasa. Ia menyediakan koleksi pemproses skor (logits) yang boleh dipakai untuk membetulkan kemunculan token dan tingkah laku output semasa penyahsusunan.
Hugging Face menerangkan cara memvisualkan dan menganalisis penggunaan memori GPU ketika model PyTorch berjalan. Panduan itu membincangkan alat dan teknik untuk mengesan kebocoran, menjejak alokasi tensor, dan mengoptimumkan penggunaan memori.
Artikel Hugging Face menganalisis hubungan antara pelepasan CO₂ dan prestasi model menggunakan data dari Open LLM Leaderboard. Laporan itu memberi gambaran tentang kompromi antara prestasi model dan impak karbon operasi.
Hugging Face Blog membincangkan kemunculan ejen AI dan persoalan tentang arah perkembangannya. Artikel itu mengajak pembaca menilai implikasi teknologi ini dari segi penggunaan, alat sokongan dan keperluan dasar.
Menurut Hugging Face Blog, mereka mengumumkan integrasi yang membolehkan model timm digunakan terus dalam rangka kerja Transformers. Integrasi ini memudahkan pemaju menggabungkan model penglihatan timm dengan alat dan aliran kerja Transformers untuk pembangunan dan ujian.
Hugging Face mengumumkan sokongan multi-backend (TRT-LLM, vLLM) untuk Text Generation Inference. Sokongan ini memberi fleksibiliti pemilihan backend dan pilihan prestasi untuk aplikasi penjanaan teks.
Hugging Face mengumumkan kerjasama dengan FriendliAI untuk mempercepat penyebaran model di Hugging Face Hub. Kerjasama itu bertujuan memudahkan dan mempercepat proses penyebaran serta integrasi model bagi pembangun.
Hugging Face menerbitkan newsletter 'AI Tools for Art' edisi pertama yang menyorot alat dan perkembangan AI berkaitan seni. Menurut Hugging Face, edisi ini menyediakan ringkasan alat, sumber dan pautan untuk pembangun serta artis yang berminat.
Hugging Face menerbitkan 'Open Arabic LLM Leaderboard 2', versi lanjut papan kedudukan terbuka untuk model bahasa Arab. Artikel itu membandingkan model menggunakan metrik dan dataset terbuka serta memberi rujukan praktikal kepada pembangun dan penyelidik.
Hugging Face mengumumkan kehadiran model Fireworks.ai di Hub mereka. Petikan tidak memberi butiran lanjut tentang kebolehan, tujuan atau lesen model itu.
Hugging Face mencadangkan Math-Verify untuk memperbaik ketepatan penilaian pada Open LLM Leaderboard. Kaedah ini bertujuan mengurangkan keputusan yang mengelirukan dengan memeriksa kesahihan penyelesaian matematik model.