ChatGPT Dapat Dikelabui untuk Hasilkan Kode Berbahaya, Ilmuwan Waspadai Serangan Siber

Dia menambahkan bahwa risiko AI seperti ChatGPT adalah semakin banyak orang yang menggunakannya sebagai alat produktivitas, bukan sebagai bot percakapan. Dari sinilah sumber keretanan berawal.

“Misalnya, seorang perawat dapat meminta ChatGPT untuk menulis perintah SQL sehingga dapat berinteraksi dengan database, seperti database yang menyimpan catatan klinis. Kode SQL yang dihasilkan oleh ChatGPT dalam banyak kasus dapat membahayakan database, sehingga dapat menyebabkan kesalahan manajemen data yang serius,” tuturnya.

Temuan ini dipresentasikan pada Simposium Internasional tentang Rekayasa Keandalan Perangkat Lunak (ISSRE) di Florence, Italia, awal bulan ini. Para peneliti juga memperingatkan bahwa orang yang menggunakan AI untuk mempelajari bahasa pemrograman adalah sebuah bahaya, karena secara tidak sengaja dapat membuat kode yang merusak.

“Ini adalah sistem yang berdiri sendiri, sehingga risiko terhadap layanan itu minimal. Namun, yang kami temukan adalah sistem ini dapat ditipu untuk menghasilkan kode berbahaya yang dapat menimbulkan kerugian serius pada layanan lain,” ujar Dr Mark Stevenson, dari Universitas Sheffield.