ChatGPT Dapat Dikelabui untuk Hasilkan Kode Berbahaya, Ilmuwan Waspadai Serangan Siber
Rabu, 25 Oktober 2023 - 22:40 WIB
loading...
ChatGPT dapat diakali atau ditipu pengguna untuk menulis kode berbahaya yang dapat meretas database dan mencuri informasi sensitif. Foto/Reuters
A
A
A
WASHINGTON - ChatGPT dapat diakali atau ditipu pengguna untuk menulis kode berbahaya yang dapat meretas database dan mencuri informasi sensitif. Kerentanan ini memungkinkan dapat digunakan untuk melakukan serangan siber oleh orang-orang biasa.
Tim dari Universitas Sheffield mengatakan bahwa chatbots sangat kompleks sehingga banyak orang, termasuk perusahaan yang memproduksinya, tidak menyadari ancaman yang ditimbulkan. Studi ini telah diterbitkan sekitar seminggu sebelum KTT Keamanan AI pemerintah tentang cara menerapkan teknologi dengan aman.
OpenAI, perusahaan rintisan AS di balik ChatGPT, mengatakan telah memperbaiki celah spesifik tersebut setelah masalah tersebut ditandai. Namun tim di Departemen Ilmu Komputer Sheffield mengatakan kemungkinan akan ada lebih banyak lagi dan meminta industri keamanan siber untuk melihat masalah ini secara lebih rinci.
Baca juga; Cara Menggunakan ChatGPT untuk Jawab Aneka Pertanyaan
Makalah ini adalah yang pertama menunjukkan bahwa apa yang disebut Sistem Text-to-SQL, yaitu AI yang dapat mencari database dengan mengajukan pertanyaan dalam bahasa sederhana. Kemudian dapat dieksploitasi untuk menyerang sistem komputer di dunia nyata.
Tim dari Universitas Sheffield mengatakan bahwa chatbots sangat kompleks sehingga banyak orang, termasuk perusahaan yang memproduksinya, tidak menyadari ancaman yang ditimbulkan. Studi ini telah diterbitkan sekitar seminggu sebelum KTT Keamanan AI pemerintah tentang cara menerapkan teknologi dengan aman.
OpenAI, perusahaan rintisan AS di balik ChatGPT, mengatakan telah memperbaiki celah spesifik tersebut setelah masalah tersebut ditandai. Namun tim di Departemen Ilmu Komputer Sheffield mengatakan kemungkinan akan ada lebih banyak lagi dan meminta industri keamanan siber untuk melihat masalah ini secara lebih rinci.
Baca juga; Cara Menggunakan ChatGPT untuk Jawab Aneka Pertanyaan
Makalah ini adalah yang pertama menunjukkan bahwa apa yang disebut Sistem Text-to-SQL, yaitu AI yang dapat mencari database dengan mengajukan pertanyaan dalam bahasa sederhana. Kemudian dapat dieksploitasi untuk menyerang sistem komputer di dunia nyata.
Lihat Juga :
