Moore Threads siap tandingi Nvidia CUDA
Pembuat kartu grafis asal Tiongkok, Moore Thread baru-baru ini telah meluncurkan model GPU terbaiknya, hal ini mungkin saja dapat menganggu tahta Nvidia sebagai GPU terbaik di dunia melalui teknologi CUDA.
Produk yang dimaksud adalah MTT S4000, GPU yang memiliki memori video 48 GB dengan bandwidth 768GB/detik pada setiap kartu. Walaupun begitu Moore Threads belum merinci keseluruhan jumlah inti atau frekuensinya, mereka hanya menyebutkan bahwa teknologi Moore Threads Unified System Architecture (MUSA) buatannya mampu memberi daya pada perangkat tersebut. MUSA dikatakan kompatibel dengan x86 dan Arm, tetapi slinger silikon ini sangat berhati-hati dalam hal kemampuan dan komposisi pastinya.
Moore Threads memiliki kinerja FP32 GPU pada 25 TFLOP, kemampuan INT8 pada 200 TOP. Angka-angka tersebut tidak akan secara langsung membuat khawatir Nvidia, Intel maupun AMD. Dan tidak akan muncul pada rak-rak di Best Buy atau situs Amazon dalam waktu dekat.
Namun, toko chip pemula mungkin mengganggu Nvidia dengan alat “MUSIFY” yang dijanjikan akan memudahkan migrasi kode CUDA ke MTT S4000. CUDA adalah lingkungan pengembangan andalan Nvidia untuk aplikasi yang berpusat pada GPU, dan perusahaan tersebut senang menjual bundel terintegrasi.
Pengembang Tiongkok mampu melakukan porting kode ke Moore Threads sepenuhnya masuk akal. Lebih jauh, mereka menggunakan perangkat tersebut untuk membangun layanan AI: MTT S4000 mendukung model LLaMA dan GPT, dan masih banyak lagi.
Perusahaan asal Tiongkok ini juga mengungkapkan “kilocard cluster” yang memanfaatkan 1.000 GPU-nya, dan mengklaim bahwa Zhiyuan Research Institute yang berbasis di Tiongkok telah menggunakannya untuk melatih 70 miliar model parameter dalam 33 hari, sementara 130 miliar model parameter akan selesai dalam waktu 56 hari.
Di tengah meningkatnya ketegangan AS-Tiongkok beberapa waktu lalu, juga masih berlakunya sanksi chip AS terhadap negara tersebut, membuat perusahaan di Tiongkok sepenuhnya bergantung pada AI. Moore Threads mungkin akan dapat menjual beberapa cluster kilocard kepada mereka. Namun karena perusahaan seperti Baidu sudah memiliki akselerator yang cukup untuk mempertahankan chatbot AI-nya selama satu tahun atau lebih, dan melarang perangkat Nvidia terus-menerus melintasi perbatasan, pembuat GPU asal Tiongkok tersebut perlu mempercepat akseleratornya hanya untuk mengejar ketertinggalan.
