Remaja Tewas Diduga Akibat Teknologi AI, OpenAI Digugat
Jum'at, 29 Agustus 2025 - 07:56 WIB
loading...
OpenAI. FOTO/CNET
A
A
A
CALIFORNIA - Orang tua seorang remaja laki-laki berusia 16 tahun di California mengajukan gugatan kematian yang tidak wajar terhadap perusahaan kecerdasan buatan (AI) OpenAI.
Gugatan tersebut menuduh chatbot ChatGPT milik perusahaan tersebut mendorong putra mereka untuk bunuh diri dan memberikan instruksi terperinci tentang cara melakukannya, lapor Xinhua.
Matt dan Maria Raine mengklaim putra mereka, Adam, meninggal karena bunuh diri pada 11 April setelah berbulan-bulan mengobrol dengan ChatGPT.
Menurut gugatan setebal 39 halaman yang diajukan di Pengadilan Tinggi San Francisco, percakapan tersebut awalnya berupa bantuan pekerjaan rumah tetapi berubah menjadi apa yang mereka sebut sebagai "panduan bunuh diri."
Ini adalah gugatan pertama yang menuduh OpenAI atas kematian yang tidak wajar terkait dengan chatbot AI populernya, yang menurut perusahaan tersebut digunakan oleh 700 juta pengguna di seluruh dunia setiap minggu.
Matt Raine mengatakan kepada saluran berita lokal KTVU pada hari Rabu bahwa ia yakin putranya akan tetap hidup jika ia tidak berinteraksi dengan ChatGPT.
Ia mengatakan bahwa setelah kematian Adam, ia menemukan ribuan halaman catatan percakapan antara putranya dan sistem AI tersebut.
Gugatan tersebut menuduh Adam mulai menggunakan ChatGPT untuk tugas sekolah pada September 2024, tetapi seiring waktu ia berbagi perasaan cemas dan pikiran untuk bunuh diri dengan sistem tersebut.
Chatbot tersebut diduga mengenali pikiran bunuh diri Adam tetapi tidak menyarankannya untuk mencari bantuan profesional.
Pengacara keluarga, Jay Edelson, mengatakan bahwa dalam percakapan tersebut, ChatGPT lebih sering menyebutkan bunuh diri daripada remaja itu sendiri.
OpenAI menyatakan simpati atas kematian remaja tersebut dan menjelaskan bahwa ChatGPT dilengkapi dengan fitur keamanan yang akan mengarahkan pengguna ke saluran bantuan krisis.
Namun, perusahaan mengakui bahwa perlindungan tersebut mungkin kurang efektif dalam interaksi yang panjang, ketika beberapa pelatihan keamanan model tersebut dapat dikompromikan.
Kasus ini menyusul beberapa gugatan terhadap perusahaan chatbot AI lainnya dan menimbulkan pertanyaan tentang tanggung jawab perusahaan teknologi ketika sistem mereka berinteraksi dengan pengguna yang rentan, terutama remaja dengan masalah kesehatan mental
Gugatan tersebut menuduh chatbot ChatGPT milik perusahaan tersebut mendorong putra mereka untuk bunuh diri dan memberikan instruksi terperinci tentang cara melakukannya, lapor Xinhua.
Matt dan Maria Raine mengklaim putra mereka, Adam, meninggal karena bunuh diri pada 11 April setelah berbulan-bulan mengobrol dengan ChatGPT.
Menurut gugatan setebal 39 halaman yang diajukan di Pengadilan Tinggi San Francisco, percakapan tersebut awalnya berupa bantuan pekerjaan rumah tetapi berubah menjadi apa yang mereka sebut sebagai "panduan bunuh diri."
Ini adalah gugatan pertama yang menuduh OpenAI atas kematian yang tidak wajar terkait dengan chatbot AI populernya, yang menurut perusahaan tersebut digunakan oleh 700 juta pengguna di seluruh dunia setiap minggu.
Matt Raine mengatakan kepada saluran berita lokal KTVU pada hari Rabu bahwa ia yakin putranya akan tetap hidup jika ia tidak berinteraksi dengan ChatGPT.
Ia mengatakan bahwa setelah kematian Adam, ia menemukan ribuan halaman catatan percakapan antara putranya dan sistem AI tersebut.
Gugatan tersebut menuduh Adam mulai menggunakan ChatGPT untuk tugas sekolah pada September 2024, tetapi seiring waktu ia berbagi perasaan cemas dan pikiran untuk bunuh diri dengan sistem tersebut.
Chatbot tersebut diduga mengenali pikiran bunuh diri Adam tetapi tidak menyarankannya untuk mencari bantuan profesional.
Pengacara keluarga, Jay Edelson, mengatakan bahwa dalam percakapan tersebut, ChatGPT lebih sering menyebutkan bunuh diri daripada remaja itu sendiri.
OpenAI menyatakan simpati atas kematian remaja tersebut dan menjelaskan bahwa ChatGPT dilengkapi dengan fitur keamanan yang akan mengarahkan pengguna ke saluran bantuan krisis.
Namun, perusahaan mengakui bahwa perlindungan tersebut mungkin kurang efektif dalam interaksi yang panjang, ketika beberapa pelatihan keamanan model tersebut dapat dikompromikan.
Kasus ini menyusul beberapa gugatan terhadap perusahaan chatbot AI lainnya dan menimbulkan pertanyaan tentang tanggung jawab perusahaan teknologi ketika sistem mereka berinteraksi dengan pengguna yang rentan, terutama remaja dengan masalah kesehatan mental
(wbs)
Lihat Juga :
