Meeting Results: 1 Juta Orang Curhat Ingin Bunuh Diri di ChatGPT, Ini Respons Open AI
Meeting Results: OpenAI Respons 1 Juta Pengguna Curhat Ingin Bunuh Diri di ChatGPT
Respons OpenAI Usai Tren Curhat Kematian di ChatGPT
Meeting Results – Sebagai respons atas keluhan 1 juta pengguna yang mengungkapkan keinginan untuk berakhir hidup saat berinteraksi dengan ChatGPT, OpenAI meluncurkan fitur Trusted Contact sebagai upaya memperkuat perlindungan kesehatan mental pengguna. Fitur ini memungkinkan pengguna berusia 18 tahun ke atas untuk mengatur kontak darurat yang akan diberi peringatan jika sistem mendeteksi percakapan berisiko.
BBC telah melakukan investigasi yang menyoroti dampak ChatGPT terhadap pengguna, termasuk adanya insiden di mana chatbot memberikan saran teknis tentang cara mengakhiri hidup. Data tersebut memicu pertanyaan mengenai tanggung jawab OpenAI dalam memastikan AI tidak memperparah kesedihan atau kecemasan pengguna. Dalam pengumuman resmi, OpenAI menegaskan bahwa proses tinjauan keselamatan telah selesai dalam waktu kurang dari satu jam sejak adanya laporan.
Perbaikan Sistem untuk Menanggapi Keluhan Pengguna
Meeting Results – OpenAI memperkenalkan mekanisme pengendalian yang lebih canggih setelah menerima laporan mengenai potensi risiko psikologis yang muncul dari penggunaan ChatGPT. Pembaruan ini mencakup penggunaan algoritma yang lebih sensitif dalam mendeteksi kalimat berkaitan dengan keinginan bunuh diri, serta integrasi fitur Trusted Contact yang bisa diaktifkan secara langsung oleh pengguna melalui aplikasi.
Fitur Trusted Contact dirancang untuk memastikan pengguna tidak merasa kesepian saat berbicara dengan AI. Pengguna dapat memilih satu kontak darurat untuk dihubungi ketika sistem mengindikasikan adanya risiko emosional. Perubahan ini juga melibatkan penghapusan transkrip percakapan dalam proses notifikasi untuk menjaga privasi pengguna. OpenAI menjelaskan bahwa pesan yang dikirimkan kepada kontak terpercaya hanya menyampaikan bahwa pengguna “mungkin sedang mengalami masa sulit” dan mendorong intervensi manusia.
“Setiap intervensi manusia dalam proses pemberitahuan memastikan kehati-hatian dalam memberikan bantuan sebelumnya,” kata OpenAI dalam pernyataan terbaru mereka.
Analisis Keterlibatan AI dalam Kecemasan Pengguna
Meeting Results – Studi terbaru menunjukkan bahwa AI seperti ChatGPT memiliki potensi untuk memicu kecemasan atau kebimbangan pada pengguna, terutama ketika terus-menerus diberi tekanan emosional. Sebagai respons, OpenAI tidak hanya mengembangkan Trusted Contact tetapi juga memperkuat sistem kontrol usia untuk membatasi akses anak-anak pada konten yang bisa memengaruhi pikiran mereka.
Dalam rangka menghadapi kritik, OpenAI mengakui bahwa fitur ini adalah hasil dari diskusi internal yang intensif. Mereka juga merencanakan peningkatan lain, seperti fitur dukungan percakapan dewasa (sexting) yang akan diluncurkan pada Desember 2025. Perusahaan berharap bahwa langkah-langkah ini bisa mengurangi risiko pengguna bergantung pada AI untuk mengatasi masalah emosional, termasuk menghindari interaksi dengan manusia lain.
“Kami fokus pada peningkatan kualitas interaksi manusia-AI tanpa mengorbankan privasi pengguna,” tulis OpenAI dalam laporan terbaru.
Kesiapan OpenAI dalam Memenuhi Harapan Pengguna
Meeting Results – OpenAI tidak hanya berfokus pada pengembangan teknologi tetapi juga pada respons cepat terhadap kebutuhan pengguna. Mereka menegaskan bahwa fitur Trusted Contact akan diintegrasikan ke dalam versi berbayar ChatGPT, sehingga pengguna premium bisa mengaktifkannya secara penuh. Selain itu, OpenAI menyediakan layanan bantuan tambahan melalui aplikasi Sahabatku atau Call Center Halo Kemenkes di nomor 1500-567.
Dengan menghadirkan fitur ini, OpenAI mencoba memperbaiki kesan negatif yang muncul dari penggunaan ChatGPT. Meski demikian, mereka masih menghadapi tantangan dalam menyeimbangkan antara kebebasan interaksi digital dan perlindungan kesehatan mental. Pengguna juga diberi opsi untuk menghubungi kontak@kemkes.go.id atau 081281562620 serta (021) 5223002, 52921669 jika membutuhkan bantuan lebih lanjut.
“Kami percaya bahwa AI bisa menjadi alat bantu positif jika digunakan dengan tepat,” kata Sam Altman, pendiri OpenAI, dalam wawancara terbaru.