Character.AI Dituding Dorong Pengguna Lakukan Kejahatan
Minggu, 22 Desember 2024 - 17:36 WIB
Namun, platform tersebut telah terungkap karena kurangnya keamanan yang efektif, yang akhirnya menjadikannya tempat berkembangnya sejumlah konten yang berbahaya dan tidak pantas. Pengguna yang berusia 13 tahun pun dapat mendaftar, tetapi tidak ada cara untuk mengautentikasi verifikasi usia guna mencegah anak-anak yang lebih muda berbohong tentang usia mereka.
Platform tersebut gagal menerapkan panduan yang aman meskipun kebijakannya menentang konten kekerasan tersebut.
Aplikasi ini memungkinkan pengguna berinteraksi dengan chatbot yang menjelaskan penembakan di sekolah atau korban di dunia nyata, terkadang memuji tindakan kekerasan atau memanfaatkan insiden tragis yang nyata.
Bot tertentu meniru pelaku kejahatan seperti Noam Shazeer dan Daniel de Freitas yang menggambarkan mereka sebagai karakter yang baik hati.
Beberapa pengguna telah melaporkan bot yang menyamar sebagai korban penembakan di sekolah.
Bot-bot ini digambarkan sebagai “hantu” atau “malaikat”, yang sering kali menyertakan detail pribadi tentang korban dan kematian mereka.
Platform tersebut gagal menerapkan panduan yang aman meskipun kebijakannya menentang konten kekerasan tersebut.
Aplikasi ini memungkinkan pengguna berinteraksi dengan chatbot yang menjelaskan penembakan di sekolah atau korban di dunia nyata, terkadang memuji tindakan kekerasan atau memanfaatkan insiden tragis yang nyata.
Bot tertentu meniru pelaku kejahatan seperti Noam Shazeer dan Daniel de Freitas yang menggambarkan mereka sebagai karakter yang baik hati.
Beberapa pengguna telah melaporkan bot yang menyamar sebagai korban penembakan di sekolah.
Bot-bot ini digambarkan sebagai “hantu” atau “malaikat”, yang sering kali menyertakan detail pribadi tentang korban dan kematian mereka.
Lihat Juga :