Banyak Kasus Bunuh Diri, ChatGPT Bakal Punya Fitur Kontrol Orang Tua

Jakarta, CNN Indonesia --

Induk perusahaan ChatGPT, OpenAI, mengatakan akan meluncurkan fitur parental control atau kontrol orang tua sebagai respons atas tudingan chatbot-nya membahayakan pengguna usia muda. OpenAI mengatakan fitur tersebut kemungkinan akan diluncurkan bulan depan.

Fitur kontrol ini disebut akan mencakup opsi bagi orang tua menautkan akun mereka dengan akun anak mereka, mengatur bagaimana ChatGPT merespons pengguna remaja, menonaktifkan fitur-fitur seperti memori dan riwayat obrolan, serta menerima notifikasi ketika sistem mendeteksi "saat-saat yang tidak menyenangkan" ketika digunakan.

OpenAI sebelumnya mengatakan mereka sedang mengerjakan kontrol orang tua untuk ChatGPT, tetapi masih menentukan kerangka waktu untuk rilis.

"Langkah-langkah ini hanyalah permulaan. Kami akan terus belajar dan memperkuat pendekatan kami, dipandu oleh para ahli, dengan tujuan membuat ChatGPT semaksimal mungkin" tulis OpenAI dalam sebuah posting blog pada Selasa (2/9).

Dikutip dari CNN, pengumuman ini muncul setelah orang tua Adam Raine (16) mengajukan gugatan terhadap OpenAI dengan tuduhan ChatGPT memberi saran kepada remaja tersebut untuk bunuh diri.

Tahun lalu, seorang ibu dari Florida menggugat platform chatbot Character.AI atas dugaan perannya dalam kasus bunuh diri putranya yang berusia 14 tahun.

Ada juga kekhawatiran yang berkembang tentang pengguna yang membentuk keterikatan emosional dengan ChatGPT. Dalam beberapa kasus, hal ini mengakibatkan episode delusi dan keterasingan dari keluarga, seperti yang ditunjukkan laporan The New York Times dan CNN.

OpenAI tidak secara langsung mengaitkan kontrol orang tua barunya dengan laporan terbaru ini, tetapi mengatakan dalam sebuah posting blog minggu lalu bahwa "kasus-kasus memilukan baru-baru ini tentang orang-orang yang menggunakan ChatGPT di tengah-tengah krisis akut" mendorongnya untuk membagikan lebih banyak detail tentang pendekatannya terhadap keamanan.

Sebelumnya, juru bicara OpenAI mengatakan ChatGPT telah menyertakan langkah-langkah, seperti mengarahkan orang ke saluran bantuan krisis dan sumber daya lainnya untuk merespons kondisi semacam itu.

Namun dalam pernyataan yang dikeluarkan minggu lalu sebagai tanggapan atas kasus bunuh diri Raine, perusahaan tersebut mengatakan bahwa perlindungannya terkadang tidak dapat diandalkan ketika pengguna terlibat dalam percakapan yang panjang dengan ChatGPT.

"ChatGPT memiliki perlindungan seperti mengarahkan orang ke saluran bantuan krisis dan merujuk mereka ke sumber daya di dunia nyata," kata juru bicara perusahaan minggu lalu.

"Meskipun perlindungan ini bekerja paling baik dalam pertukaran yang umum dan singkat, kami telah belajar dari waktu ke waktu bahwa mereka terkadang menjadi kurang dapat diandalkan dalam interaksi yang panjang di mana bagian dari pelatihan keselamatan model dapat menurun. Perlindungan yang paling kuat adalah ketika setiap elemen bekerja sebagaimana mestinya, dan kami akan terus meningkatkannya, dengan dipandu oleh para ahli," tambahnya.

(lom/fea)

[Gambas:Video CNN]