Remaja Tewas Diduga Akibat Teknologi AI, OpenAI Digugat
Jum'at, 29 Agustus 2025 - 07:56 WIB
Pengacara keluarga, Jay Edelson, mengatakan bahwa dalam percakapan tersebut, ChatGPT lebih sering menyebutkan bunuh diri daripada remaja itu sendiri.
OpenAI menyatakan simpati atas kematian remaja tersebut dan menjelaskan bahwa ChatGPT dilengkapi dengan fitur keamanan yang akan mengarahkan pengguna ke saluran bantuan krisis.
Namun, perusahaan mengakui bahwa perlindungan tersebut mungkin kurang efektif dalam interaksi yang panjang, ketika beberapa pelatihan keamanan model tersebut dapat dikompromikan.
Kasus ini menyusul beberapa gugatan terhadap perusahaan chatbot AI lainnya dan menimbulkan pertanyaan tentang tanggung jawab perusahaan teknologi ketika sistem mereka berinteraksi dengan pengguna yang rentan, terutama remaja dengan masalah kesehatan mental
OpenAI menyatakan simpati atas kematian remaja tersebut dan menjelaskan bahwa ChatGPT dilengkapi dengan fitur keamanan yang akan mengarahkan pengguna ke saluran bantuan krisis.
Namun, perusahaan mengakui bahwa perlindungan tersebut mungkin kurang efektif dalam interaksi yang panjang, ketika beberapa pelatihan keamanan model tersebut dapat dikompromikan.
Kasus ini menyusul beberapa gugatan terhadap perusahaan chatbot AI lainnya dan menimbulkan pertanyaan tentang tanggung jawab perusahaan teknologi ketika sistem mereka berinteraksi dengan pengguna yang rentan, terutama remaja dengan masalah kesehatan mental
(wbs)
Lihat Juga :