OpenAI: Kemajuan AI Bisa Bikin Manusia Punah
loading...
Gambaran kecerdasan buatan Skynet di film Terminator Judgement Day yang berupaya membinasakan manusia. Foto: ist
A
A
A
JAKARTA - Kekhawatiran akan perkembangan kecerdasan buatan/AI tak hanya datang dari masyarakat awam. Tapi juga pendiri ChatGPT, OpenAI. OpenAI menyadari potensi bahaya AI yang disebut bisa memicu kepunahan manusia.
OpenAI bahkan sudah membentuk tim untuk memitigasi risiko tersebut. Mereka mengatakan, untuk bisa mengendalikan sistem AI yang jauh lebih pintar daripada manusia butuh terobosan ilmiah dan teknis.
Sebagaimana dihimpun dari Techspot, Sabtu (8/7), untuk mengatasi masalah ini dalam waktu empat tahun, OpenAI memulai tim baru dan mendedikasikan 20% dari komputasi oleh mereka untuk upaya ini.
OpenAI yakin superintelligence atau kecerdasan buatan super akan menjadi teknologi paling berdampak yang pernah ditemukan dan dapat membantu menyelesaikan banyak masalah dunia.
Tapi kekuatannya yang melampaui kepintaran manusia juga disebut bisa berbahaya. Jika ini terjadi, akan menyebabkan ketidakberdayaan umat manusia atau bahkan kepunahan manusia.
Meskipun AI seperti itu mungkin masih terlihat sangat jauh seperti di film-film sains fiksi, tetapi perusahaan yakin itu bisa saja terjadi di dekade ini.
“Saat ini, kami tidak memiliki solusi untuk mengarahkan atau mengendalikan AI yang berpotensi superintelligent, dan mencegahnya menjadi jahat,” tulis salah satu pendiri OpenAI Ilya Sutskever dan Jan Leike, co-head tim OpenAI.
OpenAI mengakui bahwa menyelesaikan tantangan teknis superintelijen dalam 4 tahun adalah tujuan ambisius dan tidak ada jaminan akan berhasil.
Perusahaan sekarang telah mempekerjakan peneliti dan insinyur untuk bergabung dengan tim mereka. "Penyelarasan superintelligence pada dasarnya adalah masalah pembelajaran mesin, dan menurut kami pakar pembelajaran mesin yang hebat bahkan jika mereka belum mengerjakan penyelarasan akan sangat penting untuk menyelesaikannya," jelas Sutskever dan Leike.
"Kami berencana untuk membagikan hasil dari upaya ini secara luas dan memandang kontribusi terhadap penyelarasan dan keamanan model non-OpenAI sebagai bagian penting dari pekerjaan kami," lanjut mereka.
Untuk diketahui, ada banyak laporan yang memprihatinkan tentang arah AI. Termasuk salah satu 'Godfathers of AI', Geoffrey Hinton, yang meninggalkan Google dengan peringatan bahwa ketika perusahaan memanfaatkan sistem AI yang lebih kuat, mereka menjadi semakin berbahaya.
Bos OpenAI Sam Altman juga adalah salah satu dari beberapa ahli yang baru-baru ini memperingatkan tentang kemungkinan AI menyebabkan kepunahan umat manusia, membandingkan sistem ini dengan risiko yang ditimbulkan oleh perang nuklirdanpandemi.
OpenAI bahkan sudah membentuk tim untuk memitigasi risiko tersebut. Mereka mengatakan, untuk bisa mengendalikan sistem AI yang jauh lebih pintar daripada manusia butuh terobosan ilmiah dan teknis.
Sebagaimana dihimpun dari Techspot, Sabtu (8/7), untuk mengatasi masalah ini dalam waktu empat tahun, OpenAI memulai tim baru dan mendedikasikan 20% dari komputasi oleh mereka untuk upaya ini.
OpenAI yakin superintelligence atau kecerdasan buatan super akan menjadi teknologi paling berdampak yang pernah ditemukan dan dapat membantu menyelesaikan banyak masalah dunia.
Tapi kekuatannya yang melampaui kepintaran manusia juga disebut bisa berbahaya. Jika ini terjadi, akan menyebabkan ketidakberdayaan umat manusia atau bahkan kepunahan manusia.
Meskipun AI seperti itu mungkin masih terlihat sangat jauh seperti di film-film sains fiksi, tetapi perusahaan yakin itu bisa saja terjadi di dekade ini.
“Saat ini, kami tidak memiliki solusi untuk mengarahkan atau mengendalikan AI yang berpotensi superintelligent, dan mencegahnya menjadi jahat,” tulis salah satu pendiri OpenAI Ilya Sutskever dan Jan Leike, co-head tim OpenAI.
OpenAI mengakui bahwa menyelesaikan tantangan teknis superintelijen dalam 4 tahun adalah tujuan ambisius dan tidak ada jaminan akan berhasil.
Perusahaan sekarang telah mempekerjakan peneliti dan insinyur untuk bergabung dengan tim mereka. "Penyelarasan superintelligence pada dasarnya adalah masalah pembelajaran mesin, dan menurut kami pakar pembelajaran mesin yang hebat bahkan jika mereka belum mengerjakan penyelarasan akan sangat penting untuk menyelesaikannya," jelas Sutskever dan Leike.
"Kami berencana untuk membagikan hasil dari upaya ini secara luas dan memandang kontribusi terhadap penyelarasan dan keamanan model non-OpenAI sebagai bagian penting dari pekerjaan kami," lanjut mereka.
Untuk diketahui, ada banyak laporan yang memprihatinkan tentang arah AI. Termasuk salah satu 'Godfathers of AI', Geoffrey Hinton, yang meninggalkan Google dengan peringatan bahwa ketika perusahaan memanfaatkan sistem AI yang lebih kuat, mereka menjadi semakin berbahaya.
Bos OpenAI Sam Altman juga adalah salah satu dari beberapa ahli yang baru-baru ini memperingatkan tentang kemungkinan AI menyebabkan kepunahan umat manusia, membandingkan sistem ini dengan risiko yang ditimbulkan oleh perang nuklirdanpandemi.
(dan)
Lihat Juga :
