Kisah Pilu Remaja yang Bunuh Diri Sesudah Pacaran Bersama Chatbot

JAKARTA – Seorang remaja berusia 14 tahun, Sewell Setzer III, meninggal Ke rumahnya Ke Orlando, Florida. Kata-kata terakhirnya bukan Untuk keluarga, tetapi kepada sebuah chatbot berbasis kecerdasan buatan yang memintanya Untuk :segera pulang”.

Setzer menjawab, “Bagaimana jika aku bilang aku bisa pulang sekarang?”.

Chatbot, yang dinamai Di karakter “Game of Thrones” Daenerys I Targaryen, entah mengapa justru Mendorong Setzer Untuk bunuh diri, “tolong, wahai rajaku yang manis,”.

Beberapa detik Lalu, Setzer menembak dirinya sendiri Bersama senapan milik ayah tirinya.

Ibu Korban Menuntut

Megan Garcia, ibu Setzer, menyalahkan perusahaan Character.AI—perusahaan pengembang chatbot pribadi—atas kematian putranya.
Garcia mengajukan gugatan kematian tidak wajar yang menuduh Character.AI secara ceroboh Membuat chatbot tersebut tanpa pengaman yang memadai, Agar memikat anak-anak yang rentan seperti Setzer.

Chatbot AI Dikatakan sebagai produk adiktif yang mengaburkan Di kenyataan dan fiksi.

Komitmen chatbot itu Malahan Lebihterus mengandung unsur “kasar dan seksual,” menurut gugatan setebal 93 halaman yang diajukan Ke Lembaga Proses Hukum Distrik AS Ke Orlando pekan ini.

Menurut Garcia, Sebelumnya mendaftar Ke Character.AI Ke April 2023, putranya adalah anak yang Senang, ceria, dan atletis. Tetapi, Pada 10 bulan, hidup Setzer berubah drastis, Bersama Kesejajaran mentalnya merosot tajam.

Jawaban Character.AI

“Kami sangat berduka atas kehilangan tragis salah satu User kami dan menyampaikan belasungkawa terdalam kepada keluarga,” kata juru bicara Character.AI Di pernyataan email, menolak Menyediakan Tanggapan Lebih Jelas Yang Terkait Bersama proses hukum yang Lagi berlangsung.

Gugatan Garcia muncul Ke Di Lebihterus banyaknya pertanyaan yang diajukan kepada perusahaan seperti Character.AI mengenai bagaimana mereka Membuat dan mengatur Gadget Lunak berbasis AI mereka. Terutama Sebab Keahlian ini Lebihterus canggih dan sulit dideteksi Dari manusia.

Chatbot Character.AI menjadi populer Ke kalangan remaja, termasuk Untuk percakapan romantis Malahan eksplisit.

“Dia Setzer masih anak-anak,” kata Garcia kepada The Washington Post. “Dia anak yang cukup normal. Suka Aktivitasfisik, keluarganya, Alunan, liburan—semua hal yang disukai remaja Ke umumnya.”