Microsoft Boncos, Biaya Operasional ChatGPT Sehari Rp10 Miliar
loading...
A
A
A
Perusahaan yang menggunakan layanan pemrograman bahasa milik OpenAI memang sudah mulai menaikkan harga.
CEO startup Latitude Nick Walton mengatakan, layanan game AI dungeon miliknya yang menggunakan cerita memakai platform OpenAI—bersama dengan server milik Amazon Web Services servers — menelan biaya USD200,000 (Rp3 miliar) per bulan. “Itu biaya bagi Ai untuk menjawab jutaan pertanyaan dari pengguna sepanjang 2021,” katanya.
Gara-gara tingginya biaya operasional itu, Nick Walton memutuskan untuk mengganti OpenAI menjadi pemrograman bahasa lainnya AI21 Labs. Dampaknya, biaya operasional bisa dipangkas separuh. Menjadi USD100,000 (Rp1,5 miliar) sebulan.
“Kami bercanda, jika memiliki pegawai manusia dan pegawai AI, biaya yang dikeluarkan sama saja,” kata Walton kepada CNBC. “Kami menghabiskan ratusan ribu dollar sebulan untuk AI, dan kami bukanlah startup besar. Jadi, menurut kami sangat mahal,” katanya.
Proyek itu sudah dimulai sejak 2019, tak lama setelah Microsoft membuat kesepakatan senilai USD1 miliar dengan OpenAI yang mengharuskan OpenAI menjalankan modelnya secara eksklusif di server cloud Azure Microsoft.
CEO startup Latitude Nick Walton mengatakan, layanan game AI dungeon miliknya yang menggunakan cerita memakai platform OpenAI—bersama dengan server milik Amazon Web Services servers — menelan biaya USD200,000 (Rp3 miliar) per bulan. “Itu biaya bagi Ai untuk menjawab jutaan pertanyaan dari pengguna sepanjang 2021,” katanya.
Gara-gara tingginya biaya operasional itu, Nick Walton memutuskan untuk mengganti OpenAI menjadi pemrograman bahasa lainnya AI21 Labs. Dampaknya, biaya operasional bisa dipangkas separuh. Menjadi USD100,000 (Rp1,5 miliar) sebulan.
“Kami bercanda, jika memiliki pegawai manusia dan pegawai AI, biaya yang dikeluarkan sama saja,” kata Walton kepada CNBC. “Kami menghabiskan ratusan ribu dollar sebulan untuk AI, dan kami bukanlah startup besar. Jadi, menurut kami sangat mahal,” katanya.
Chip AI Rahasia Microsoft
Untuk mengurangi biaya dalam menjalankan model AI generatif, Microsoft dilaporkan sedang mengembangkan chip AI yang disebutnya Athena.Proyek itu sudah dimulai sejak 2019, tak lama setelah Microsoft membuat kesepakatan senilai USD1 miliar dengan OpenAI yang mengharuskan OpenAI menjalankan modelnya secara eksklusif di server cloud Azure Microsoft.
Lihat Juga :