Sam Altman Tak Menampik Keberadaan Sistem AI Kiamat
loading...
Sam Altman percaya dengan teori bahwa dirinya dipecat dari OpenAI karena sistem AI baru yang sangat kuat dan rahasia yang dia bantu kembangkan. Foto/The Verge
A
A
A
SAN FRANSISCO - Sam Altman percaya dengan teori bahwa dirinya dipecat dari OpenAI karena sistem AI baru yang sangat kuat dan rahasia yang dia bantu kembangkan. Dia tampak mengakui keberadaan sistem AI kiamat rahasia yang bisa menjadi lompatan menuju kecerdasan umum buatan ( artificial general intelligence /AGI).
Sam Altman dalam wawancara akhir pekan ini dengan The Verge tak menampik adanya program rahasia yang menurut beberapa karyawan menjadi penyebab pemecatan dirinya. Sebaliknya, dia menyebut pengungkapan Q* (baca Q star) sebagai kebocoran yang disayangkan.
“Tidak ada komentar khusus mengenai kebocoran yang disayangkan itu. Kami memperkirakan kemajuan teknologi ini akan terus pesat dan kami terus bekerja keras mencari cara untuk menjadikannya aman dan bermanfaat,” katanya dikutip SINDOnews dari laman Daily Mail, Minggu (3/12/2023).
Saat dihadapkan pada pertanyaan tentang Q* dalam wawancara dengan The Verge, dia sempat menyangkal keberadaan program tersebut. Namun, kenyataan yang terjadi sebaliknya, dia sepertinya membenarkannya
Masyarakat mengetahui keberadaan Q* dalam berita Reuters baru-baru ini, yang juga menyampaikan beberapa kekhawatiran yang disampaikan dalam surat peringatan karyawan kepada dewan. Reuters melaporkan bahwa Q* adalah bagian dari alasan Altman dipecat dari OpenAI, karena kemampuan sistem baru yang canggih.
![Sam Altman Tak Menampik Keberadaan Sistem AI Kiamat]()
Sumber mengatakan Q* sudah unggul dalam ujian matematika, sedangkan versi terakhir ChatGPT, GPT-4, masih kesulitan dalam ujian sekolah menengah. GPT-4 diluncurkan pada bulan Maret, memberikan waktu untuk berkembang, sementara Q* belum dapat dikonfirmasi.
Sumber juga mengklaim Q* dapat menggunakan metode non-linier seperti Tree-of-Thoughts, Monte-Carlo Tree Search (MCTS), Process-Supervised Reward Models (PRMs), dan algoritma pembelajaran. Namun, staf OpenAI diyakini percaya bahwa Q* dapat menjadi terobosan yang memungkinkan pengembangan AGI.
OpenAI mendefinisikan AGI sebagai sistem AI yang umumnya lebih pintar dari manusia. Orang-orang yang bekerja di bidang AI telah memperingatkan bahwa begitu ilmuwan komputer mencapai kecerdasan umum buatan (AGI), kecerdasan tersebut mungkin menjadi lebih kuat daripada yang dapat ditandingi manusia.
Bahkan AGI dapat memandang manusia sebagai ancaman yang harus dihilangkan, dengan menggunakan infrastruktur internet dan komputer untuk melaksanakan rencana hari kiamat. Ketakutan tersebut sejalan dengan prediksi para ahli bahwa suatu hari AI akan mencapai titik yang dikenal sebagai singularitas.
Singularitas merupakan kondisi ketika teknologi menjadi lebih kuat dan cerdas dibandingkan kemampuan manusia untuk bersaing, sehingga mengubah arah evolusi manusia. Mantan insinyur Google Ray Kurzweil pernah meramalkan bahwa singularitas akan terjadi pada tahun 2045.
Sam Altman dalam wawancara akhir pekan ini dengan The Verge tak menampik adanya program rahasia yang menurut beberapa karyawan menjadi penyebab pemecatan dirinya. Sebaliknya, dia menyebut pengungkapan Q* (baca Q star) sebagai kebocoran yang disayangkan.
“Tidak ada komentar khusus mengenai kebocoran yang disayangkan itu. Kami memperkirakan kemajuan teknologi ini akan terus pesat dan kami terus bekerja keras mencari cara untuk menjadikannya aman dan bermanfaat,” katanya dikutip SINDOnews dari laman Daily Mail, Minggu (3/12/2023).
Saat dihadapkan pada pertanyaan tentang Q* dalam wawancara dengan The Verge, dia sempat menyangkal keberadaan program tersebut. Namun, kenyataan yang terjadi sebaliknya, dia sepertinya membenarkannya
Masyarakat mengetahui keberadaan Q* dalam berita Reuters baru-baru ini, yang juga menyampaikan beberapa kekhawatiran yang disampaikan dalam surat peringatan karyawan kepada dewan. Reuters melaporkan bahwa Q* adalah bagian dari alasan Altman dipecat dari OpenAI, karena kemampuan sistem baru yang canggih.
Sumber mengatakan Q* sudah unggul dalam ujian matematika, sedangkan versi terakhir ChatGPT, GPT-4, masih kesulitan dalam ujian sekolah menengah. GPT-4 diluncurkan pada bulan Maret, memberikan waktu untuk berkembang, sementara Q* belum dapat dikonfirmasi.
Sumber juga mengklaim Q* dapat menggunakan metode non-linier seperti Tree-of-Thoughts, Monte-Carlo Tree Search (MCTS), Process-Supervised Reward Models (PRMs), dan algoritma pembelajaran. Namun, staf OpenAI diyakini percaya bahwa Q* dapat menjadi terobosan yang memungkinkan pengembangan AGI.
OpenAI mendefinisikan AGI sebagai sistem AI yang umumnya lebih pintar dari manusia. Orang-orang yang bekerja di bidang AI telah memperingatkan bahwa begitu ilmuwan komputer mencapai kecerdasan umum buatan (AGI), kecerdasan tersebut mungkin menjadi lebih kuat daripada yang dapat ditandingi manusia.
Bahkan AGI dapat memandang manusia sebagai ancaman yang harus dihilangkan, dengan menggunakan infrastruktur internet dan komputer untuk melaksanakan rencana hari kiamat. Ketakutan tersebut sejalan dengan prediksi para ahli bahwa suatu hari AI akan mencapai titik yang dikenal sebagai singularitas.
Singularitas merupakan kondisi ketika teknologi menjadi lebih kuat dan cerdas dibandingkan kemampuan manusia untuk bersaing, sehingga mengubah arah evolusi manusia. Mantan insinyur Google Ray Kurzweil pernah meramalkan bahwa singularitas akan terjadi pada tahun 2045.
Lihat Juga :
(wib)
