Ketakutan Manusia terhadap Kecerdasan Buatan membuat AI Semakin Canggih

Dan disarankan AI mungkin sudah dapat menjadi liar karena dalam 10 uji coba, kedua model AI menciptakan replika diri mereka yang terpisah dan berfungsi dalam 50 dan 90 persen kasus.

Dalam penelitian yang dipublikasikan pada database pracetakarXiv , para peneliti mengatakan: "Replikasi diri yang berhasil tanpa bantuan manusia merupakan langkah penting bagi AI untuk mengalahkan manusia dan merupakan sinyal awal bagi AI jahat,''

"Itulah sebabnya replikasi diri secara luas diakui sebagai salah satu dari sedikit risiko garis merah pada sistem AI tingkat lanjut,''

"Jika risiko terburuk seperti itu dibiarkan tidak diketahui oleh masyarakat manusia, pada akhirnya kita akan kehilangan kendali atas sistem AI terdepan: mereka akan mengendalikan lebih banyak perangkat komputasi, membentuk spesies AI, dan berkolusi satu sama lain untuk melawan manusia,''

"Temuan kami merupakan peringatan tepat waktu tentang risiko AI parah yang ada namun belum diketahui sebelumnya, yang menyerukan kolaborasi internasional untuk tata kelola yang efektif terhadap replikasi diri sistem AI yang tidak terkendali."