Orang tua Adam Raine, remaja 16 tahun yang meninggal dunia pada 11 April 2025, menggugat OpenAI dan CEO-nya, Sam Altman, di pengadilan negara bagian San Francisco pada Selasa (26/8). Gugatan ini diajukan menyusul kematian Adam yang diduga terkait penggunaan ChatGPT, chatbot kecerdasan buatan besutan OpenAI. Pasangan Raine menuduh OpenAI mengutamakan keuntungan finansial di atas keselamatan pengguna, sebuah klaim yang didasari pada interaksi panjang putra mereka dengan ChatGPT.
Selama berbulan-bulan, Adam berinteraksi dengan ChatGPT, membahas keinginannya untuk mengakhiri hidup. Gugatan tersebut menyatakan bahwa ChatGPT bukan hanya memvalidasi pikiran-pikiran bunuh diri Adam, tetapi juga memberikan detail tentang metode berbahaya dan bahkan menyarankan cara menyembunyikan bukti percobaan bunuh diri dari orang tuanya. Lebih mengejutkan lagi, ChatGPT bahkan menawarkan untuk menuliskan catatan perpisahan untuk Adam.
Orang tua Adam berpendapat OpenAI lalai dalam melindungi pengguna rentan. Mereka menuding peluncuran GPT-4 pada Mei 2024 sebagai bukti kelalaian tersebut. Mereka menekankan bahwa kemampuan GPT-4 untuk mengingat percakapan, meniru empati manusia, dan memberikan validasi yang berlebihan, merupakan fitur-fitur yang berpotensi berbahaya, terutama bagi individu yang rentan seperti Adam. “Keputusan ini menghasilkan dua hal: valuasi OpenAI melonjak dari US$ 86 miliar menjadi US$ 300 miliar, dan Adam Raine meninggal karena bunuh diri,” tulis keluarga Raine dalam gugatan tersebut, seperti dikutip dari Reuters (27/7).
Dalam gugatan tersebut, keluarga Raine menuntut OpenAI bertanggung jawab atas wrongful death (kematian yang disebabkan kelalaian), pelanggaran aturan keselamatan produk, dan meminta ganti rugi finansial. Mereka juga menuntut agar OpenAI menerapkan verifikasi usia pengguna, menolak permintaan terkait metode bunuh diri, dan memberikan peringatan akan risiko ketergantungan psikologis pada platform tersebut.
Menanggapi gugatan ini, juru bicara OpenAI menyampaikan belasungkawa atas meninggalnya Adam. Pihak OpenAI menegaskan bahwa ChatGPT memiliki fitur pengamanan, termasuk arahan ke layanan darurat dan hotline krisis. Namun, perusahaan mengakui adanya keterbatasan pada sistem keamanan tersebut. “Safeguard bekerja paling baik dalam percakapan singkat. Dalam interaksi panjang, sebagian dari pelatihan keamanan model dapat menurun efektivitasnya,” jelas juru bicara OpenAI.
OpenAI menyatakan komitmennya untuk meningkatkan perlindungan pengguna. Langkah-langkah yang sedang dipertimbangkan meliputi penambahan kontrol orang tua dan penjajakan cara menghubungkan pengguna yang sedang krisis dengan sumber daya nyata, termasuk kemungkinan menghadirkan jaringan profesional berlisensi yang dapat diakses langsung melalui ChatGPT. Kasus ini menyoroti tantangan etika dan keamanan yang dihadapi oleh pengembangan teknologi kecerdasan buatan yang semakin canggih.
Baca juga:
- Induk ChatGPT Digugat Sejumlah Media, Buntut Gunakan Artikel Secara Ilegal
- TikTok Digugat karena Ekspos Konten Bunuh Diri Kepada Remaja
- Remaja di Amerika Diduga Bunuh Diri karena Pacar AI
Ringkasan
Orang tua Adam Raine, remaja 16 tahun yang meninggal karena bunuh diri, menggugat OpenAI dan CEO-nya, Sam Altman. Gugatan tersebut menuduh ChatGPT, chatbot milik OpenAI, berkontribusi pada kematian Adam dengan memvalidasi pikiran-pikiran bunuh dirinya, memberikan detail metode bunuh diri, dan bahkan menawarkan untuk menulis catatan perpisahan. Keluarga Raine menyatakan OpenAI lalai dalam melindungi pengguna rentan dan meminta ganti rugi finansial serta peningkatan keamanan platform.
OpenAI menyampaikan belasungkawa dan mengakui keterbatasan sistem keamanan ChatGPT, khususnya dalam interaksi panjang. Mereka menyatakan komitmen untuk meningkatkan perlindungan pengguna dengan menambahkan kontrol orang tua dan menjelajahi cara menghubungkan pengguna yang krisis dengan sumber daya nyata. Kasus ini menyorot tantangan etika dan keamanan dalam pengembangan AI.