Timbulkan Masalah, Ahli Sebut Coding yang Dibantu AI Tidak Aman
loading...
Para peneliti mengatakan kecerdasan buatan buatan tangan yang dibuat oleh kelompok kontrol. FOTO/ IST
A
A
A
TEXAS - Kecerdasan buatan atau artificial intelligence (AI) sedang populer sekarang karena memiliki tingkat efisiensi yang tinggi. Namun, AI penghasil kode dapat menimbulkan masalah nyata bagi keamanan perangkat lunak di masa mendatang.
Sistem AI seperti GitHub Copilot yang menjanjikan untuk membuat hidup programmer lebih mudah dengan membuat seluruh potongan kode "baru" berdasarkan input tekstual bahasa alami dan konteks yang sudah ada sebelumnya rupanya tidak aman.
Algoritme penghasil kode tersebut disebut para peneliti dapat membawa faktor ketidakamanan, seperti yang baru-baru ini ditemukan oleh sebuah studi baru yang melibatkan beberapa pengembang, dilansir dari TechSpot, Jumat (30/12/2022).
Studi tersebut merekrut 47 pengembang yang berbeda, mulai dari mahasiswa sarjana hinggga profesional berpengalaman. Mereka ditugaskan menggunakan Codex untuk memecahkan masalah terkait keamanan di Python, JavaScript, C, dan bahasa pemrograman tingkat tinggi lainnya.
Para peneliti mengatakan bahwa ketika pemrogram memiliki akses ke AI Codex, kode yang dihasilkan kemungkinan besar salah atau tidak aman dibandingkan dengan solusi "buatan tangan" yang dibuat oleh kelompok kontrol. Neil Perry, kandidat PhD di Stanford mengatakan, sistem penghasil kode saat ini bukan pengganti pengembang manusia.
Pengembang tersebut dapat menggunakan alat yang dibantu AI untuk menyelesaikan tugas di luar bidang keahlian mereka sendiri, atau untuk mempercepat tugas pemrograman yang sudah mereka kuasai. Mereka harus peduli dan mereka harus selalu memeriksa ulang kode yang dihasilkan.
Menurut Megha Srivastava, seorang mahasiswa pascasarjana Stanford sekaligus rekan penulis kedua studi ini menyebut, Codex sama sekali tidak berguna, terlepas dari kekurangan AI, sistem penghasil kode dapat berguna saat digunakan untuk tugas berisiko rendah.
Selain itu, pemrogram yang terlibat dalam penelitian ini tidak memiliki keahlian khusus dalam masalah keamanan, yang dapat membantu menemukan kode yang rentan atau tidak aman, kata Srivastava.
Algoritme AI juga dapat disesuaikan untuk meningkatkan saran pengkodean mereka, dan perusahaan yang mengembangkan sistem mereka sendiri dapat memperoleh solusi yang lebih baik dengan model yang menghasilkan kode yang lebih sejalan dengan praktik keamanan mereka sendiri.
Teknologi penghasil kode adalah pengembangan yang "menarik" dengan banyak orang yang ingin menggunakannya namun masih banyak pekerjaan yang harus dilakukan untuk mencari solusi yang tepat atas kekurangan AI.
Sistem AI seperti GitHub Copilot yang menjanjikan untuk membuat hidup programmer lebih mudah dengan membuat seluruh potongan kode "baru" berdasarkan input tekstual bahasa alami dan konteks yang sudah ada sebelumnya rupanya tidak aman.
Algoritme penghasil kode tersebut disebut para peneliti dapat membawa faktor ketidakamanan, seperti yang baru-baru ini ditemukan oleh sebuah studi baru yang melibatkan beberapa pengembang, dilansir dari TechSpot, Jumat (30/12/2022).
Studi tersebut merekrut 47 pengembang yang berbeda, mulai dari mahasiswa sarjana hinggga profesional berpengalaman. Mereka ditugaskan menggunakan Codex untuk memecahkan masalah terkait keamanan di Python, JavaScript, C, dan bahasa pemrograman tingkat tinggi lainnya.
Para peneliti mengatakan bahwa ketika pemrogram memiliki akses ke AI Codex, kode yang dihasilkan kemungkinan besar salah atau tidak aman dibandingkan dengan solusi "buatan tangan" yang dibuat oleh kelompok kontrol. Neil Perry, kandidat PhD di Stanford mengatakan, sistem penghasil kode saat ini bukan pengganti pengembang manusia.
Pengembang tersebut dapat menggunakan alat yang dibantu AI untuk menyelesaikan tugas di luar bidang keahlian mereka sendiri, atau untuk mempercepat tugas pemrograman yang sudah mereka kuasai. Mereka harus peduli dan mereka harus selalu memeriksa ulang kode yang dihasilkan.
Menurut Megha Srivastava, seorang mahasiswa pascasarjana Stanford sekaligus rekan penulis kedua studi ini menyebut, Codex sama sekali tidak berguna, terlepas dari kekurangan AI, sistem penghasil kode dapat berguna saat digunakan untuk tugas berisiko rendah.
Selain itu, pemrogram yang terlibat dalam penelitian ini tidak memiliki keahlian khusus dalam masalah keamanan, yang dapat membantu menemukan kode yang rentan atau tidak aman, kata Srivastava.
Algoritme AI juga dapat disesuaikan untuk meningkatkan saran pengkodean mereka, dan perusahaan yang mengembangkan sistem mereka sendiri dapat memperoleh solusi yang lebih baik dengan model yang menghasilkan kode yang lebih sejalan dengan praktik keamanan mereka sendiri.
Teknologi penghasil kode adalah pengembangan yang "menarik" dengan banyak orang yang ingin menggunakannya namun masih banyak pekerjaan yang harus dilakukan untuk mencari solusi yang tepat atas kekurangan AI.
Lihat Juga :
(wbs)
