Ketakutan Manusia terhadap Kecerdasan Buatan membuat AI Semakin Canggih
Selasa, 28 Januari 2025 - 06:17 WIB
loading...
Kecerdasan buatan atau artificial intelligence (AI) . FOTO/ DAILY
A
A
A
BEIJING - Kecerdasan buatan (AI) ditakuti oleh banyak orang karena potensi yang dimilikinya jika menjadi terlalu canggih, seperti menggantikan pekerjaan, menjadi lebih berpengetahuan daripada manusia, atau bahkan menimbulkan ancaman bagi kita.
BACA JUGA - Profesi yang Hilang Digantikan Kecerdasan Buatan
Sekarang, dalam perkembangan yang cukup mengkhawatirkan, para ilmuwan yang mempelajarinya menemukan bahwa virus tersebut telah berkembang sedemikian rupa sehingga melewati "garis merah".
Para peneliti dari Universitas Fudan di China menggunakan dua model bahasa besar yang populer, yang dikenal sebagai LLM, untuk melihat apakah AI dapat mereplikasi diri dan berkembang biak di luar kendali, lapor LiveScience .
Dan disarankan AI mungkin sudah dapat menjadi liar karena dalam 10 uji coba, kedua model AI menciptakan replika diri mereka yang terpisah dan berfungsi dalam 50 dan 90 persen kasus.
Dalam penelitian yang dipublikasikan pada database pracetakarXiv , para peneliti mengatakan: "Replikasi diri yang berhasil tanpa bantuan manusia merupakan langkah penting bagi AI untuk mengalahkan manusia dan merupakan sinyal awal bagi AI jahat,''
"Itulah sebabnya replikasi diri secara luas diakui sebagai salah satu dari sedikit risiko garis merah pada sistem AI tingkat lanjut,''
BACA JUGA - Profesi yang Hilang Digantikan Kecerdasan Buatan
Sekarang, dalam perkembangan yang cukup mengkhawatirkan, para ilmuwan yang mempelajarinya menemukan bahwa virus tersebut telah berkembang sedemikian rupa sehingga melewati "garis merah".
Para peneliti dari Universitas Fudan di China menggunakan dua model bahasa besar yang populer, yang dikenal sebagai LLM, untuk melihat apakah AI dapat mereplikasi diri dan berkembang biak di luar kendali, lapor LiveScience .
Dan disarankan AI mungkin sudah dapat menjadi liar karena dalam 10 uji coba, kedua model AI menciptakan replika diri mereka yang terpisah dan berfungsi dalam 50 dan 90 persen kasus.
Dalam penelitian yang dipublikasikan pada database pracetakarXiv , para peneliti mengatakan: "Replikasi diri yang berhasil tanpa bantuan manusia merupakan langkah penting bagi AI untuk mengalahkan manusia dan merupakan sinyal awal bagi AI jahat,''
"Itulah sebabnya replikasi diri secara luas diakui sebagai salah satu dari sedikit risiko garis merah pada sistem AI tingkat lanjut,''
Lihat Juga :
