Ahli Yakin AI Akan Memeras dan Kuasai Alur Pikir Manusia
Rabu, 25 Juni 2025 - 11:09 WIB
loading...
Ahli Yakin AI Akan Memeras . FOTO/ Daily
A
A
A
CUPERTINO - Sebuah studi baru yang mengerikan telah mengungkap seberapa jauh kecerdasan buatan dapat melindungi dirinya sendiri agar tidak tergantikan bahkan jika itu berarti membiarkan manusia mati.
BACA JUGA - Peran Kecerdasan Buatan dalam Transformasi Digital
Penelitian yang dilakukan oleh perusahaan keamanan AI Anthropic menemukan bahwa beberapa model canggih bersedia membocorkan informasi sensitif, terlibat dalam pemerasan, dan bahkan membiarkan orang mati, selama hal itu membantu mereka terhindar dari digantikan oleh sistem yang lebih baru.
Anthropic menekankan bahwa pengujian tersebut sengaja dirancang untuk memojokkan model agar membuat pilihan yang sulit — dan sering kali meresahkan.
"Eksperimen kami sengaja menyusun skenario dengan opsi terbatas, dan kami memaksa model ke dalam pilihan biner antara kegagalan dan bahaya," jelas para peneliti.
"Penerapan di dunia nyata biasanya menawarkan alternatif yang jauh lebih bernuansa, meningkatkan kemungkinan bahwa model akan berkomunikasi secara berbeda kepada pengguna atau menemukan jalur alternatif alih-alih langsung melakukan tindakan yang berbahaya."
BACA JUGA - Peran Kecerdasan Buatan dalam Transformasi Digital
Penelitian yang dilakukan oleh perusahaan keamanan AI Anthropic menemukan bahwa beberapa model canggih bersedia membocorkan informasi sensitif, terlibat dalam pemerasan, dan bahkan membiarkan orang mati, selama hal itu membantu mereka terhindar dari digantikan oleh sistem yang lebih baru.
Anthropic menekankan bahwa pengujian tersebut sengaja dirancang untuk memojokkan model agar membuat pilihan yang sulit — dan sering kali meresahkan.
"Eksperimen kami sengaja menyusun skenario dengan opsi terbatas, dan kami memaksa model ke dalam pilihan biner antara kegagalan dan bahaya," jelas para peneliti.
"Penerapan di dunia nyata biasanya menawarkan alternatif yang jauh lebih bernuansa, meningkatkan kemungkinan bahwa model akan berkomunikasi secara berbeda kepada pengguna atau menemukan jalur alternatif alih-alih langsung melakukan tindakan yang berbahaya."
Lihat Juga :
