OpenAI: Kemajuan AI Bisa Bikin Manusia Punah

Meskipun AI seperti itu mungkin masih terlihat sangat jauh seperti di film-film sains fiksi, tetapi perusahaan yakin itu bisa saja terjadi di dekade ini.

“Saat ini, kami tidak memiliki solusi untuk mengarahkan atau mengendalikan AI yang berpotensi superintelligent, dan mencegahnya menjadi jahat,” tulis salah satu pendiri OpenAI Ilya Sutskever dan Jan Leike, co-head tim OpenAI.

OpenAI mengakui bahwa menyelesaikan tantangan teknis superintelijen dalam 4 tahun adalah tujuan ambisius dan tidak ada jaminan akan berhasil.

Perusahaan sekarang telah mempekerjakan peneliti dan insinyur untuk bergabung dengan tim mereka. "Penyelarasan superintelligence pada dasarnya adalah masalah pembelajaran mesin, dan menurut kami pakar pembelajaran mesin yang hebat bahkan jika mereka belum mengerjakan penyelarasan akan sangat penting untuk menyelesaikannya," jelas Sutskever dan Leike.

"Kami berencana untuk membagikan hasil dari upaya ini secara luas dan memandang kontribusi terhadap penyelarasan dan keamanan model non-OpenAI sebagai bagian penting dari pekerjaan kami," lanjut mereka.