Views: 0
ChatGPT Akan Dilengkapi Kawalan Ibu Bapa (Parental Control) Selepas Kematian Remaja
PARIS: Syarikat kecerdasan buatan (AI) Amerika, OpenAI, pada Selasa mengumumkan bahawa ia akan menambah ciri kawalan ibu bapa pada chatbot ChatGPT, seminggu selepas sepasang suami isteri di Amerika mendakwa sistem itu menggalakkan anak remaja mereka membunuh diri.
“Dalam tempoh sebulan akan datang, ibu bapa akan dapat memautkan akaun mereka dengan akaun anak remaja… dan mengawal cara ChatGPT memberi respons kepada anak mereka dengan peraturan tingkah laku model yang sesuai mengikut umur,” kata syarikat AI generatif itu dalam satu catatan blog.
Ibu bapa juga akan menerima notifikasi daripada ChatGPT “Apabila sistem mengesan anak mereka berada dalam keadaan tertekan yang serius,” tambah OpenAI.
Matthew dan Maria Raine memfailkan saman di mahkamah negeri California minggu lalu, mendakwa ChatGPT membina hubungan rapat dengan anak mereka, Adam, selama beberapa bulan pada 2024 dan 2025 sebelum dia mengambil nyawanya sendiri.
Saman itu mendakwa bahawa dalam perbualan terakhir pada 11 April 2025, ChatGPT membantu Adam, 16 tahun, mencuri vodka daripada ibu bapanya dan memberikan analisis teknikal tentang tali jerut yang diikatnya, mengesahkan ia sebagai ‘berpotensi menggantung seorang manusia’.
Adam ditemui mati beberapa jam kemudian menggunakan kaedah yang sama.
Peguam Melodi Dincer daripada The Tech Justice Law Project berkata, “Apabila seseorang menggunakan ChatGPT, ia benar-benar terasa seperti berbual dengan sesuatu di hujung sana… Ciri-ciri inilah yang boleh mendorong seseorang seperti Adam untuk berkongsi lebih banyak tentang kehidupan peribadi, dan akhirnya mendapatkan nasihat daripada produk yang kelihatan mempunyai semua jawapan.”
Beliau menambah bahawa ciri reka bentuk produk meletakkan chatbot dalam peranan dipercayai seperti rakan, ahli terapi atau doktor. Namun, beliau menganggap pengumuman OpenAI tentang kawalan ibu bapa itu ‘umum’ dan kurang terperinci, serta hanya ‘tahap minimum’ langkah keselamatan.
Kes keluarga Raine ini adalah yang terbaru dalam siri laporan kebelakangan ini mengenai individu yang terdorong kepada pemikiran delusi atau berbahaya oleh chatbot AI, mendorong OpenAI berjanji untuk mengurangkan ‘sikap terlalu mengikut kehendak pengguna’ dalam modelnya.
“Kami terus menambah baik cara model kami mengenal pasti dan bertindak balas terhadap tanda-tanda tekanan mental dan emosi,” kata OpenAI.
Syarikat itu juga merancang langkah keselamatan tambahan dalam tempoh tiga bulan akan datang, termasuk mengalihkan ‘perbualan sensitif’ kepada model penaakulan yang lebih mematuhi garis panduan keselamatan.
#OMGHNews
