Ingin Terdepan di AI, Meta Berencana Borong 350.000 Unit GPU Nvidia H100

JAKARTA - Mark Zuckerberg bakal investasi besar-besaran untuk memperkuat infrastruktur kecerdasan buatan (AI) milik Meta. Hal ini akan dilakukan hingga 2024 mendatang.

Zuckerberg berencana memborong 350.000 GPU Nvidia H100 milik Nvidia . Menurutnya, langkah ini dilakukan untuk mengintensifkan upaya AI sumber terbuka yang mampu mendukung segala hal. Mulai produktivitas dan pengembangan hingga teknologi yang dapat dikenakan dan asisten yang didukung AI.

Dikatakan, investasi infrastruktur AI Meta diperlukan untuk membangun kecerdasan umum buatan (AGI) lengkap yang mampu memberi penalaran, perencanaan, pengkodean, dan kemampuan lainnya kepada peneliti, pencipta, dan konsumen di seluruh dunia.

CEO Meta itu ingin mengembangkan model AI baru sebagai produk sumber terbuka, memastikan tingkat ketersediaan tertinggi bagi pengguna dan organisasi dari semua ukuran, melansir Techspot, Senin (22/1/2024).

Tingginya permintaan terhadap H100 telah mengakibatkan waktu tunggu yang lama. Alhasil, membuat beberapa perusahaan menunggu pemenuhannya di belakang pesaing mereka.

Omdia melaporkan bahwa waktu tunggu pemesanan Nvidia H100 berkisar antara 36 hingga 52 bulan karena meningkatnya permintaan.

Peningkatan daya komputasi dan kecepatan pemrosesan merupakan pendorong terbesar bagi Meta dan perusahaan lain yang ingin mendapatkan sumber daya AI.

Menurut Nvidia, H100 dengan InfiniBand Interconnect hingga 30 kali lebih cepat dibandingkan Nvidia A100 pada model AI mainstream dan komputasi kinerja tinggi (HPC).

Unit ini juga memiliki kecepatan pemrosesan IEEE FP64 dan FP32 tiga kali lipat jika dibandingkan dengan A100 sebelumnya.



Peningkatan disebabkan oleh kinerja clock-for-clock per streaming multiprocessor (SM), jumlah SM tambahan, dan kecepatan clock yang lebih tinggi.

Dengan harga USD30.000 atau setara Rp 450 jutaan per GPU, investasi pada H100 tentu bukanlah langkah main-main. Meta tampaknya bertekad untuk tidak hanya ingin eksis di bidang AI, namun juga ingin memimpin inovasi AIdimasadepan.