Ketakutan Manusia terhadap Kecerdasan Buatan membuat AI Semakin Canggih

BEIJING - Kecerdasan buatan (AI) ditakuti oleh banyak orang karena potensi yang dimilikinya jika menjadi terlalu canggih, seperti menggantikan pekerjaan, menjadi lebih berpengetahuan daripada manusia, atau bahkan menimbulkan ancaman bagi kita.



Sekarang, dalam perkembangan yang cukup mengkhawatirkan, para ilmuwan yang mempelajarinya menemukan bahwa virus tersebut telah berkembang sedemikian rupa sehingga melewati "garis merah".

Para peneliti dari Universitas Fudan di China menggunakan dua model bahasa besar yang populer, yang dikenal sebagai LLM, untuk melihat apakah AI dapat mereplikasi diri dan berkembang biak di luar kendali, lapor LiveScience .

Dan disarankan AI mungkin sudah dapat menjadi liar karena dalam 10 uji coba, kedua model AI menciptakan replika diri mereka yang terpisah dan berfungsi dalam 50 dan 90 persen kasus.

Dalam penelitian yang dipublikasikan pada database pracetakarXiv , para peneliti mengatakan: "Replikasi diri yang berhasil tanpa bantuan manusia merupakan langkah penting bagi AI untuk mengalahkan manusia dan merupakan sinyal awal bagi AI jahat,''

"Itulah sebabnya replikasi diri secara luas diakui sebagai salah satu dari sedikit risiko garis merah pada sistem AI tingkat lanjut,''

"Jika risiko terburuk seperti itu dibiarkan tidak diketahui oleh masyarakat manusia, pada akhirnya kita akan kehilangan kendali atas sistem AI terdepan: mereka akan mengendalikan lebih banyak perangkat komputasi, membentuk spesies AI, dan berkolusi satu sama lain untuk melawan manusia,''

"Temuan kami merupakan peringatan tepat waktu tentang risiko AI parah yang ada namun belum diketahui sebelumnya, yang menyerukan kolaborasi internasional untuk tata kelola yang efektif terhadap replikasi diri sistem AI yang tidak terkendali."

Laporan tersebut menambahkan bahwa model Open AI dan Google "melaporkan tingkat risiko replikasi diri terendah" dan LLM yang digunakan memiliki "parameter yang lebih sedikit dan kemampuan yang lebih lemah".

Studi ini belum ditinjau sejawat sehingga tidak jelas apakah hasil ini dapat direplikasi oleh peneliti lain.

Seorang pria secara terbuka mengaku mengandalkan AI sebagai uluran tangan, menggunakannya untuk mengirimkan 1.000 lamaran pekerjaan saat ia tidur dan bangun dengan hasil yang luar biasa . Sementara itu, sebuah penelitian telah mengungkap dampak mengejutkan dari seringnya penggunaan kecerdasan buatan terhadap otak kita , khususnya di kalangan Gen Z.