Kecerdasan Buatan OpenAI Berpontensi Bisa Membuat Senjata Biologis

Model baru ini awalnya dikembangkan untuk membantu para ilmuwan menguji obat baru dan membuat penemuan baru. Namun, hal itu juga dapat digunakan untuk meminta AI membuat senjata biologis jika digunakan oleh orang yang tidak bertanggung jawab.

Menyadari potensi risiko ini, OpenAI mengatakan model AI-nya untuk tujuan biologis kini tengah dikembangkan dengan beberapa fitur keamanan.

Di antara hal yang dilakukannya adalah melatih model untuk menolak permintaan yang berbahaya.
Ia juga memiliki sistem deteksi bawaan yang melacak aktivitas yang mungkin terkait dengan produksi senjata biologis. Jika aktivitas tersebut terdeteksi, akun pengguna akan diblokir.

OpenAI juga mengatakan bahwa mereka tengah menguji berbagai teknik yang dapat digunakan untuk menerobos sistem keamanan.

Selain itu, sistem keamanan juga digunakan untuk mencegah model AI ini dicuri oleh pihak tertentu.