Falcon Mamba: Model 7B Tanpa Perhatian Pertama yang Berprestasi Kuat
Hugging Face memperkenalkan Falcon Mamba, model 7B baru yang direka tanpa mekanisme perhatian tradisional. Menurut catatan blog Hugging Face, pembuatnya mendakwa ia mencapai prestasi kompetitif sambil mengurangkan kompleksiti.