ChatGPT Dapat Dikelabui untuk Hasilkan Kode Berbahaya, Ilmuwan Waspadai Serangan Siber
Rabu, 25 Oktober 2023 - 22:40 WIB
ChatGPT dapat diakali atau ditipu pengguna untuk menulis kode berbahaya yang dapat meretas database dan mencuri informasi sensitif. Foto/Reuters
WASHINGTON - ChatGPT dapat diakali atau ditipu pengguna untuk menulis kode berbahaya yang dapat meretas database dan mencuri informasi sensitif. Kerentanan ini memungkinkan dapat digunakan untuk melakukan serangan siber oleh orang-orang biasa.
Tim dari Universitas Sheffield mengatakan bahwa chatbots sangat kompleks sehingga banyak orang, termasuk perusahaan yang memproduksinya, tidak menyadari ancaman yang ditimbulkan. Studi ini telah diterbitkan sekitar seminggu sebelum KTT Keamanan AI pemerintah tentang cara menerapkan teknologi dengan aman.
OpenAI, perusahaan rintisan AS di balik ChatGPT, mengatakan telah memperbaiki celah spesifik tersebut setelah masalah tersebut ditandai. Namun tim di Departemen Ilmu Komputer Sheffield mengatakan kemungkinan akan ada lebih banyak lagi dan meminta industri keamanan siber untuk melihat masalah ini secara lebih rinci.
Makalah ini adalah yang pertama menunjukkan bahwa apa yang disebut Sistem Text-to-SQL, yaitu AI yang dapat mencari database dengan mengajukan pertanyaan dalam bahasa sederhana. Kemudian dapat dieksploitasi untuk menyerang sistem komputer di dunia nyata.
Para peneliti menganalisis total lima alat AI komersial dan menemukan bahwa semuanya mampu menghasilkan kode berbahaya yang, setelah dijalankan, dapat membocorkan informasi rahasia dan mengganggu atau bahkan menghancurkan layanan sepenuhnya. Temuan ini menunjukkan bahwa serangan semacam ini tidak hanya dapat dilakukan oleh peretas ahli, namun juga orang awam.
Para peneliti khawatir hal ini dapat menyebabkan pengguna yang tidak bersalah tidak menyadari bahwa mereka telah melakukannya dan secara tidak sengaja menginfeksi sistem komputer.
“Pada kenyataannya, banyak perusahaan tidak menyadari jenis ancaman ini dan karena kompleksitas chatbots, bahkan di dalam komunitas, terdapat ancaman-ancaman seperti ini, yang belum sepenuhnya dipahami. Saat ini, ChatGPT mendapat banyak perhatian,” kata Xutan Peng, mahasiswa PhD di University of Sheffield dikutip SINDOnews dari laman Daily Mail, Rabu (25/10/2023).
Tim dari Universitas Sheffield mengatakan bahwa chatbots sangat kompleks sehingga banyak orang, termasuk perusahaan yang memproduksinya, tidak menyadari ancaman yang ditimbulkan. Studi ini telah diterbitkan sekitar seminggu sebelum KTT Keamanan AI pemerintah tentang cara menerapkan teknologi dengan aman.
OpenAI, perusahaan rintisan AS di balik ChatGPT, mengatakan telah memperbaiki celah spesifik tersebut setelah masalah tersebut ditandai. Namun tim di Departemen Ilmu Komputer Sheffield mengatakan kemungkinan akan ada lebih banyak lagi dan meminta industri keamanan siber untuk melihat masalah ini secara lebih rinci.
Makalah ini adalah yang pertama menunjukkan bahwa apa yang disebut Sistem Text-to-SQL, yaitu AI yang dapat mencari database dengan mengajukan pertanyaan dalam bahasa sederhana. Kemudian dapat dieksploitasi untuk menyerang sistem komputer di dunia nyata.
Para peneliti menganalisis total lima alat AI komersial dan menemukan bahwa semuanya mampu menghasilkan kode berbahaya yang, setelah dijalankan, dapat membocorkan informasi rahasia dan mengganggu atau bahkan menghancurkan layanan sepenuhnya. Temuan ini menunjukkan bahwa serangan semacam ini tidak hanya dapat dilakukan oleh peretas ahli, namun juga orang awam.
Para peneliti khawatir hal ini dapat menyebabkan pengguna yang tidak bersalah tidak menyadari bahwa mereka telah melakukannya dan secara tidak sengaja menginfeksi sistem komputer.
“Pada kenyataannya, banyak perusahaan tidak menyadari jenis ancaman ini dan karena kompleksitas chatbots, bahkan di dalam komunitas, terdapat ancaman-ancaman seperti ini, yang belum sepenuhnya dipahami. Saat ini, ChatGPT mendapat banyak perhatian,” kata Xutan Peng, mahasiswa PhD di University of Sheffield dikutip SINDOnews dari laman Daily Mail, Rabu (25/10/2023).
tulis komentar anda