NadiAIGlobal AI news. Concise. Clear. Easy to follow.
Meta mereka semula lapisan storan untuk AI dari awal bagi mengurangkan masa menunggu data sehingga 97 peratus menurut Data Center Dynamics. Langkah ini bertujuan memastikan GPU tidak menganggur dan meningkatkan kecekapan operasi pusat data syarikat itu.
Nvidia kini bertindak sebagai sandaran untuk GPU pelanggan dan menerima sebahagian hasil perkhidmatan awan sebagai balasan. Firma Firmus dan Sharon AI adalah penerima awal bagi model kerjasama ini, menurut Data Center Dynamics.
Artikel menasihatkan perancangan strategi penyejukan yang diselaraskan dengan seni bina termal bagi menghadapi peningkatan kepadatan dan prestasi GPU NVIDIA akan datang. Pendekatan ini membantu pusat data menampung beban haba dan keperluan penyejukan masa depan secara lebih efektif.
Firmus mengumumkan perjanjian dengan Nvidia untuk menyelenggara kluster GPU sebanyak 170,000 unit di Batam, Indonesia. Perjanjian itu dilaporkan berjalan sehingga 2034 menurut sumber Data Center Dynamics.
Argentum AI memeterai kontrak bernilai US$4.1 bilion untuk perkhidmatan awan AI dengan pelanggan yang tidak dinamakan. Kontrak itu dijangka meliputi kira-kira 27,000 unit GPU Nvidia GB300.
OpenAI mengeluarkan kernel GPU dioptimumkan untuk arkitektur rangkaian neural dengan berat block-sparse. Bergantung pada sparsiti, kernel ini boleh berjalan berpuluh kali ganda lebih pantas daripada cuBLAS atau cuSPARSE dan telah digunakan untuk analisis sentimen serta pemodelan generatif teks dan imej.
OpenAI mengeluarkan Triton 1.0, bahasa pengaturcaraan mirip Python sumber terbuka untuk menulis kod GPU secara cekap tanpa pengalaman CUDA. Menurut OpenAI, kebanyakan kod yang dihasilkan mampu menandingi kualiti kod yang ditulis oleh pakar.
IEEE menganjurkan Honors Ceremony di New York pada 24 April untuk menghormati jurutera dan inovator di sebalik teknologi seperti teks-untuk-derma, alat diagnostik berasaskan AI dan pemproses grafik. Program itu turut merangkumi forum untuk penggiat muda, pameran mikrocip, perbincangan mengenai AI dalam seni, dan penganugerahan utama kepada tokoh seperti Jensen Huang.
Latihan rangkaian neural berskala besar merupakan cabaran kejuruteraan dan penyelidikan. Ia memerlukan orkestrasi kluster GPU untuk menjalankan pengiraan yang disegerakkan dan artikel OpenAI membincangkan pendekatan untuk isu ini.
Hugging Face berkongsi panduan untuk menjalankan chatbot mirip ChatGPT pada satu GPU menggunakan ROCm. Artikel itu menerangkan langkah teknikal dan petunjuk konfigurasi untuk GPU berasaskan AMD.
Hugging Face mengumumkan kerjasama dengan AMD untuk mempercepatkan model termaju pada platform CPU dan GPU, menurut Hugging Face Blog. Butiran teknikal lanjut tidak dinyatakan dalam ringkasan pengumuman.
Hugging Face mengumumkan sokongan untuk pemecutan model bahasa besar (LLM) secara 'out-of-the-box' pada GPU AMD. Menurut catatan blog rasmi, ini membolehkan pecutan LLM tanpa konfigurasi kompleks pada perkakasan AMD.