Biaya Melatih AI Seperti ChatGPT Tembus Belasan Triliun dan Energi Listrik Setara Jutaan Rumah
Rabu, 10 Juli 2024 - 10:00 WIB
loading...
Biaya pelatihan model AI bisa mencapai USD1 miliar (Rp16 triliun) karena sangat rumit. Foto: ist
A
A
A
JAKARTA - AI Generatif seperti ChatGPT, Microsoft, hingga Google Gemini memang sedang ngetren. Banyak perusahaan yang mencoba membuat AI serupa dan kaget, karena ternyata biaya untuk melatih pemodelan bahasa bisa mencapai USD1 miliar atau Rp16 triliun.
Hal itu disampaikan CEO Anthropic Dario Amodei dalam podcast In Good Company. Menurutnya, model AI yang sedang dikembangkan saat ini dapat menelan biaya pelatihan hingga USD1 miliar.
Model seperti ChatGPT-4o sekarang hanya menghabiskan USD100 juta (Rp1,6 triliun). Tetapi dia memperkirakan biaya pelatihan model bahasa tersebut akan naik menjadi USD10 miliar atau bahkan USD100 miliar dalam tiga tahun ke depan.
“Itu akan terjadi pada 2025, 2026, mungkin 2027. Karena peningkatan algoritma terus berlanjut, dan peningkatan chip terus berlanjut."
Dario menyebutkan angka-angka ini ketika ia membahas perkembangan AI dari kecerdasan buatan generatif (seperti ChatGPT) ke kecerdasan buatan umum (AGI).
Artificial General Intelligence (AGI) adalah konsep kecerdasan buatan yang dianggap lebih canggih daripada Artificial Intelligence (AI). Bisa dibilang AI yang dapat berpikir seperti manusia, atau bahkan lebih cerdas dari manusia.
“Tidak akan ada satu titik di mana kita tiba-tiba mencapai AGI. Sebaliknya, itu akan menjadi perkembangan bertahap di mana model membangun berdasarkan perkembangan model sebelumnya, seperti halnya seorang anak manusia belajar,” ungkapnya.
“Jadi, jika model AI tumbuh sepuluh kali lebih kuat setiap tahun, kita dapat secara rasional mengharapkan perangkat keras yang diperlukan untuk melatihnya menjadi setidaknya sepuluh kali lebih kuat juga. Dengan demikian, perangkat keras bisa menjadi pendorong biaya terbesar dalam pelatihan AI,” beber Dario.
Di 2023, ChatGPT butuh lebih dari 30.000 GPU untuk beroperasi. Di 2023 juga ada lebih dari 3,8 juta GPU dikirim ke pusat data.
Dengan chip AI B200 terbaru Nvidia yang harganya sekitar USD30.000 hingga USD40.000, dapat disimpulkan bahwa angka USD1 miliar untuk melatih AI adalah masuk akal.
Elon Musk ingin membeli 300.000 chip AI B200, sementara OpenAI dan Microsoft dilaporkan sedang merencanakan pusat data AI senilai USD100 miliar dolar.
Baca Juga: Samsung Tegaskan Teknologi AI Tak Bisa Dihindari
Nantinya, pengiriman GPU pusat data tahun depan bakal melonjak menjadi 38 juta jika NVIDIA dan pemasok lain dapat memenuhi permintaan pasar.
Namun, selain dari pasokan perangkat keras chip yang sebenarnya, perusahaan AI ini juga perlu memperhatikan pasokan daya dan infrastruktur terkait. Total perkiraan konsumsi daya dari semua GPU pusat data yang dijual tahun lalu dapat memberi daya pada1,3jutarumah.
Hal itu disampaikan CEO Anthropic Dario Amodei dalam podcast In Good Company. Menurutnya, model AI yang sedang dikembangkan saat ini dapat menelan biaya pelatihan hingga USD1 miliar.
Model seperti ChatGPT-4o sekarang hanya menghabiskan USD100 juta (Rp1,6 triliun). Tetapi dia memperkirakan biaya pelatihan model bahasa tersebut akan naik menjadi USD10 miliar atau bahkan USD100 miliar dalam tiga tahun ke depan.
“Itu akan terjadi pada 2025, 2026, mungkin 2027. Karena peningkatan algoritma terus berlanjut, dan peningkatan chip terus berlanjut."
Dario menyebutkan angka-angka ini ketika ia membahas perkembangan AI dari kecerdasan buatan generatif (seperti ChatGPT) ke kecerdasan buatan umum (AGI).
Artificial General Intelligence (AGI) adalah konsep kecerdasan buatan yang dianggap lebih canggih daripada Artificial Intelligence (AI). Bisa dibilang AI yang dapat berpikir seperti manusia, atau bahkan lebih cerdas dari manusia.
“Tidak akan ada satu titik di mana kita tiba-tiba mencapai AGI. Sebaliknya, itu akan menjadi perkembangan bertahap di mana model membangun berdasarkan perkembangan model sebelumnya, seperti halnya seorang anak manusia belajar,” ungkapnya.
“Jadi, jika model AI tumbuh sepuluh kali lebih kuat setiap tahun, kita dapat secara rasional mengharapkan perangkat keras yang diperlukan untuk melatihnya menjadi setidaknya sepuluh kali lebih kuat juga. Dengan demikian, perangkat keras bisa menjadi pendorong biaya terbesar dalam pelatihan AI,” beber Dario.
Di 2023, ChatGPT butuh lebih dari 30.000 GPU untuk beroperasi. Di 2023 juga ada lebih dari 3,8 juta GPU dikirim ke pusat data.
Dengan chip AI B200 terbaru Nvidia yang harganya sekitar USD30.000 hingga USD40.000, dapat disimpulkan bahwa angka USD1 miliar untuk melatih AI adalah masuk akal.
Elon Musk ingin membeli 300.000 chip AI B200, sementara OpenAI dan Microsoft dilaporkan sedang merencanakan pusat data AI senilai USD100 miliar dolar.
Baca Juga: Samsung Tegaskan Teknologi AI Tak Bisa Dihindari
Nantinya, pengiriman GPU pusat data tahun depan bakal melonjak menjadi 38 juta jika NVIDIA dan pemasok lain dapat memenuhi permintaan pasar.
Namun, selain dari pasokan perangkat keras chip yang sebenarnya, perusahaan AI ini juga perlu memperhatikan pasokan daya dan infrastruktur terkait. Total perkiraan konsumsi daya dari semua GPU pusat data yang dijual tahun lalu dapat memberi daya pada1,3jutarumah.
(dan)
Lihat Juga :
