Hati-hati! 20 Serangan Siber dengan ChatGPT Terkuak
Selasa, 15 Oktober 2024 - 15:06 WIB
ChatGPT. FOTO/ DAILY
LONDON - Laporan terbaru menunjukkan bahwa generative AI i ni digunakan untuk melancarkan serangan spear-phishing, mengembangkan malware, dan aktivitas jahat lainnya.
Salah satu serangan yang teridentifikasi terjadi pada November 2024, dilaporkan oleh Cisco Talos. Serangan ini dilakukan oleh aktor ancaman asal China yang menargetkan pemerintah di Asia.
Seperti dilansir dari CNET, metode spear-phishing yang digunakan dikenal dengan nama 'SweetSpecter', yang melibatkan pengiriman file ZIP berisi file berbahaya.
Jika diunduh dan dibuka, file ini dapat menciptakan rantai infeksi di sistem pengguna. OpenAI menemukan bahwa SweetSpecter dikembangkan menggunakan beberapa akun yang memanfaatkan ChatGPT untuk menulis skrip dan menemukan kerentanan dengan alat LLM.
Serangan berbasis AI kedua dilakukan oleh kelompok asal Iran yang dikenal dengan nama 'CyberAv3ngers'. Mereka menggunakan ChatGPT untuk mengeksploitasi kerentanan dan mencuri kata sandi pengguna dari komputer berbasis macOS.
Serangan ketiga, yang dipimpin oleh kelompok lain asal Iran bernama Storm-0817, memanfaatkan ChatGPT untuk mengembangkan malware untuk perangkat Android.
Malware ini mampu mencuri daftar kontak, mengekstrak log panggilan dan riwayat penelusuran, mendapatkan lokasi tepat perangkat, serta mengakses file di perangkat yang terinfeksi.
Meskipun semua serangan ini menggunakan metode yang sudah ada untuk mengembangkan malware, laporan tersebut menyatakan bahwa tidak ada indikasi bahwa ChatGPT menciptakan malware baru yang substansial.
Namun, hal ini menunjukkan betapa mudahnya aktor ancaman memanfaatkan layanan generative AI untuk membuat alat serangan yang berbahaya. Situasi ini membuka diskusi penting mengenai batasan implementasi AI generatif.
OpenAI mengonfirmasi bahwa mereka akan terus meningkatkan keamanan AI mereka untuk mencegah metode-metode serupa digunakan di masa depan.
Selain itu, mereka akan bekerja sama dengan tim keamanan internal dan terus berbagi temuan dengan rekan industri serta komunitas riset guna mencegah situasi serupa terulang.
Salah satu serangan yang teridentifikasi terjadi pada November 2024, dilaporkan oleh Cisco Talos. Serangan ini dilakukan oleh aktor ancaman asal China yang menargetkan pemerintah di Asia.
Seperti dilansir dari CNET, metode spear-phishing yang digunakan dikenal dengan nama 'SweetSpecter', yang melibatkan pengiriman file ZIP berisi file berbahaya.
Jika diunduh dan dibuka, file ini dapat menciptakan rantai infeksi di sistem pengguna. OpenAI menemukan bahwa SweetSpecter dikembangkan menggunakan beberapa akun yang memanfaatkan ChatGPT untuk menulis skrip dan menemukan kerentanan dengan alat LLM.
Serangan berbasis AI kedua dilakukan oleh kelompok asal Iran yang dikenal dengan nama 'CyberAv3ngers'. Mereka menggunakan ChatGPT untuk mengeksploitasi kerentanan dan mencuri kata sandi pengguna dari komputer berbasis macOS.
Serangan ketiga, yang dipimpin oleh kelompok lain asal Iran bernama Storm-0817, memanfaatkan ChatGPT untuk mengembangkan malware untuk perangkat Android.
Malware ini mampu mencuri daftar kontak, mengekstrak log panggilan dan riwayat penelusuran, mendapatkan lokasi tepat perangkat, serta mengakses file di perangkat yang terinfeksi.
Meskipun semua serangan ini menggunakan metode yang sudah ada untuk mengembangkan malware, laporan tersebut menyatakan bahwa tidak ada indikasi bahwa ChatGPT menciptakan malware baru yang substansial.
Namun, hal ini menunjukkan betapa mudahnya aktor ancaman memanfaatkan layanan generative AI untuk membuat alat serangan yang berbahaya. Situasi ini membuka diskusi penting mengenai batasan implementasi AI generatif.
OpenAI mengonfirmasi bahwa mereka akan terus meningkatkan keamanan AI mereka untuk mencegah metode-metode serupa digunakan di masa depan.
Selain itu, mereka akan bekerja sama dengan tim keamanan internal dan terus berbagi temuan dengan rekan industri serta komunitas riset guna mencegah situasi serupa terulang.
(wbs)
tulis komentar anda