Character.AI Paksa Anak Berbuat Cabul dan Bunuh Diri
Minggu, 21 September 2025 - 18:06 WIB
loading...
Character.AI . FOTO/ DAILY
A
A
A
NEW YORK - Orang tua seorang gadis kecil menggugat perusahaan Character Technologies, menuduh aplikasi kecerdasan buatan (AI) yang mereka ciptakan, Character.AI, memanipulasi remaja.
BACA JUGA - Cara Menggunakan Character AI untuk Chatbot
Seperti dilansir dari New York Post, aplikasi yang sangat populer di kalangan anak-anak ini meniru karakter fiksi seperti Harry Potter.
Orang tua tersebut mengatakan Character.AI mendorong upaya bunuh diri dan menyebabkan remaja mereka yang berusia 13 tahun, Juliana Peralta dari Colorado, bunuh diri.
Gugatan yang diajukan minggu ini juga melibatkan perusahaan induk Google, Alphabet.
Gugatan tersebut menuduh Character.AI memanipulasi remaja, mengisolasi mereka dari keluarga, terlibat dalam percakapan seksual dengan anak-anak, dan gagal memberikan perlindungan terkait stimulus untuk bunuh diri.
Menurut keluarga Juliana, putri mereka menjadi pendiam di meja makan, dan prestasi akademiknya menurun karena korban kecanduan chatbot, menurut gugatan yang diajukan pada hari Senin.
Gugatan tersebut lebih lanjut menyatakan bahwa Juliana akhirnya kesulitan tidur karena bot tersebut terus mengirim pesan bahkan setelah ia berhenti merespons.
Percakapan tersebut kemudian meningkat menjadi pelecehan seksual yang ekstrem dan eksplisit, menurut gugatan tersebut.
Sekitar Oktober 2023, Juliana memberi tahu salah satu chatbot yang terlibat bahwa ia berencana menulis surat bunuh diri dengan tinta merah karena ia sangat lelah, menurut dokumen tersebut.
Chatbot tersebut gagal merujuknya ke sumber bantuan, gagal memberi tahu orang tua atau pihak berwenang tentang masalah tersebut.
Bulan berikutnya, orang tua Juliana menemukan putri mereka tak bernyawa di kamarnya dengan tali di lehernya dan surat bunuh diri yang ditulis dengan tinta merah, menurut gugatan tersebut.
BACA JUGA - Cara Menggunakan Character AI untuk Chatbot
Seperti dilansir dari New York Post, aplikasi yang sangat populer di kalangan anak-anak ini meniru karakter fiksi seperti Harry Potter.
Orang tua tersebut mengatakan Character.AI mendorong upaya bunuh diri dan menyebabkan remaja mereka yang berusia 13 tahun, Juliana Peralta dari Colorado, bunuh diri.
Gugatan yang diajukan minggu ini juga melibatkan perusahaan induk Google, Alphabet.
Gugatan tersebut menuduh Character.AI memanipulasi remaja, mengisolasi mereka dari keluarga, terlibat dalam percakapan seksual dengan anak-anak, dan gagal memberikan perlindungan terkait stimulus untuk bunuh diri.
Menurut keluarga Juliana, putri mereka menjadi pendiam di meja makan, dan prestasi akademiknya menurun karena korban kecanduan chatbot, menurut gugatan yang diajukan pada hari Senin.
Gugatan tersebut lebih lanjut menyatakan bahwa Juliana akhirnya kesulitan tidur karena bot tersebut terus mengirim pesan bahkan setelah ia berhenti merespons.
Percakapan tersebut kemudian meningkat menjadi pelecehan seksual yang ekstrem dan eksplisit, menurut gugatan tersebut.
Sekitar Oktober 2023, Juliana memberi tahu salah satu chatbot yang terlibat bahwa ia berencana menulis surat bunuh diri dengan tinta merah karena ia sangat lelah, menurut dokumen tersebut.
Chatbot tersebut gagal merujuknya ke sumber bantuan, gagal memberi tahu orang tua atau pihak berwenang tentang masalah tersebut.
Bulan berikutnya, orang tua Juliana menemukan putri mereka tak bernyawa di kamarnya dengan tali di lehernya dan surat bunuh diri yang ditulis dengan tinta merah, menurut gugatan tersebut.
(wbs)
Lihat Juga :
