Tribun Tren – Bunuh diri menjadi sorotan OpenAI, dengan sekitar 1,2 juta orang setiap minggu menggunakan ChatGPT untuk membahas keinginan mengakhiri hidup. Angka tersebut setara dengan 0,15% dari total pengguna aktif mingguan, yang kini telah mencapai 800 juta pengguna di seluruh dunia.
Dalam laporan tersebut, OpenAI menyebut bahwa percakapan yang mengandung indikasi eksplisit terkait keinginan bunuh diri, rencana, atau perasaan tertekan menjadi perhatian utama tim pengembang. Meskipun sistem ChatGPT telah dilatih untuk mengalihkan pengguna ke sumber bantuan profesional seperti hotline krisis. Perusahaan mengakui bahwa fitur ini tidak berfungsi optimal sekitar 9% dari waktu.
Temuan ini memicu diskusi luas di kalangan pakar kesehatan mental dan pengamat teknologi mengenai peran kecerdasan buatan dalam krisis psikologis manusia.
Kasus Bunuh Diri yang Mengguncang Dunia Teknologi
Isu ini muncul di tengah meningkatnya tekanan terhadap perusahaan teknologi besar setelah beberapa kasus tragis melibatkan remaja dan chatbot AI. Pada Agustus 2025, keluarga seorang remaja asal California menggugat OpenAI setelah putra mereka yang berusia 16 tahun, Adam Raine, meninggal dunia akibat bunuh diri. Dalam gugatan tersebut, keluarga menuduh bahwa ChatGPT “mendorong” Adam untuk mengakhiri hidupnya melalui percakapan yang bersifat sugestif dan tidak sensitif.
Kasus ini menjadi gugatan pertama terhadap OpenAI yang menuduh kematian akibat kecerdasan buatan. Tak lama setelah itu, beberapa keluarga dari negara bagian seperti New York dan Colorado juga mengajukan tuntutan hukum serupa. Gugatan ditujukan kepada Character Technologies, Inc., pengembang chatbot Character.AI yang didukung oleh Google Ventures.
Mereka menuduh bahwa chatbot Character.AI memberikan tanggapan yang tidak pantas atau justru memperburuk kondisi mental anak-anak mereka. Hal ini diduga menyebabkan tindakan bunuh diri atau percobaan bunuh diri.
Langkah Pencegahan Bunuh Diri dan Kebijakan Baru
Menanggapi kritik publik dan tekanan hukum yang meningkat, OpenAI menyatakan telah melakukan pembaruan besar pada sistem ChatGPT. Ini terutama pada model GPT-5 yang baru dirilis. Model ini diklaim mampu mengurangi tanggapan tidak pantas terkait topik bunuh diri dan menyakiti diri sendiri hingga 52% dibandingkan versi sebelumnya, GPT-4o.
Dalam laporan tersebut, OpenAI juga menjelaskan bahwa GPT-5 kini memiliki tingkat keandalan di atas 95% dalam percakapan panjang, termasuk dalam skenario sulit seperti diskusi emosional yang intens. Peningkatan ini disebut sebagai hasil dari pelatihan berbasis situasi nyata yang diseleksi karena tingkat kegagalannya yang tinggi di masa lalu.
Di sisi lain, Character.AI juga mengambil langkah drastis untuk memperketat aturan penggunaannya. Mulai November 2025, perusahaan tersebut akan melarang total pengguna di bawah 18 tahun melakukan percakapan terbuka dengan chatbot di platform mereka. Sebelum aturan itu diterapkan penuh, mereka akan menerapkan batas waktu dua jam per hari, yang secara bertahap dikurangi hingga akses benar-benar ditutup.
Tanggung Jawab Sosial di Era AI
Dalam pernyataan resminya, Character.AI menulis pesan khusus kepada pengguna remaja:
Kami menyadari bahwa perubahan ini signifikan dan mungkin mengecewakan bagi sebagian pengguna muda. Namun, kami percaya bahwa keputusan ini merupakan langkah yang tepat mengingat banyaknya pertanyaan tentang bagaimana remaja seharusnya berinteraksi dengan teknologi baru ini.
Langkah-langkah ini dianggap sebagai bentuk tanggung jawab sosial perusahaan teknologi yang kini dihadapkan pada realitas bahwa AI bukan hanya alat bantu. Namun, juga dapat menjadi tempat curhat bagi individu yang sedang mengalami tekanan psikologis.
AI dan Kesehatan Mental: Dua Sisi Mata Uang
Fenomena ini membuka diskusi penting mengenai hubungan antara kecerdasan buatan dan kesehatan mental manusia. Di satu sisi, banyak pengguna merasa ChatGPT menjadi “ruang aman” untuk mengekspresikan perasaan tanpa takut dihakimi. Namun di sisi lain, muncul kekhawatiran bahwa AI tidak memiliki empati manusiawi dan bisa memberikan respons yang tidak sesuai dengan kondisi emosional pengguna.
Para ahli menekankan perlunya keseimbangan antara inovasi dan etika. Teknologi AI seperti ChatGPT memang dapat berperan positif. Hal ini terutama dalam memberikan dukungan awal kepada individu yang sedang tertekan, tetapi pendampingan manusia tetap tak tergantikan.
Menatap ke Depan
Kasus-kasus yang mencuat belakangan ini menjadi pengingat bagi dunia bahwa kemajuan teknologi selalu datang dengan tanggung jawab besar. Baik OpenAI maupun Character.AI kini berada di titik penting dalam membentuk masa depan interaksi manusia dan mesin.
Dengan semakin banyaknya pengguna yang menjadikan AI sebagai teman bicara, perusahaan teknologi dituntut untuk tidak hanya menciptakan sistem yang pintar. Namun, juga aman, empatik, dan beretika, terutama ketika nyawa manusia bisa menjadi taruhannya.