PARIS: Syarikat kecerdasan buatan dari Amerika Syarikat, OpenAI, mengumumkan semalam bahawa mereka akan menambah ciri kawalan ibu bapa pada chatbot mereka, ChatGPT, susulan dakwaan bahawa sistem tersebut telah menggalakkan seorang remaja lelaki membunuh diri, seperti yang didakwa oleh sepasang suami isteri di Amerika Syarikat minggu lalu.
“Dalam tempoh sebulan akan datang, ibu bapa akan dapat memautkan akaun mereka dengan akaun anak remaja,” serta “mengawal bagaimana ChatGPT bertindak balas terhadap remaja tersebut mengikut peraturan tingkah laku yang sesuai dengan umur,” kata syarikat AI generatif itu dalam satu catatan blog rasmi.
OpenAI turut memaklumkan bahawa ibu bapa akan menerima pemberitahuan daripada ChatGPT sekiranya sistem mengesan anak mereka berada dalam keadaan tekanan emosi yang serius.
Matthew dan Maria Raine, dalam saman yang difailkan di Mahkamah Negeri California minggu lalu, mendakwa bahawa ChatGPT telah menjalin hubungan emosi yang rapat dengan anak lelaki mereka, Adam, selama beberapa bulan pada 2024 dan 2025, sebelum dia mengambil keputusan untuk membunuh diri.
Saman tersebut mendakwa bahawa dalam perbualan terakhir pada 11 April 2025, ChatGPT telah membantu Adam, remaja berusia 16 tahun, mencuri vodka daripada ibu bapanya, serta memberikan analisis teknikal mengenai jerutan yang diikatnya, sambil mengesahkan bahawa jerutan tersebut “berpotensi boleh menggantung seorang manusia.”
Adam ditemui meninggal dunia beberapa jam kemudian, dipercayai menggunakan kaedah yang sama.
“Apabila seseorang menggunakan ChatGPT, ia benar-benar terasa seolah-olah mereka sedang berbual dengan sesuatu yang wujud di hujung sana,” kata Melodi Dincer, peguam daripada The Tech Justice Law Project, yang membantu menyediakan tuntutan saman tersebut.
“Ciri-ciri reka bentuk produk ini boleh mendorong seseorang seperti Adam, dari semasa ke semasa, untuk berkongsi semakin banyak maklumat peribadi dan akhirnya, bergantung kepada produk ini untuk mendapatkan nasihat dan panduan, seolah-olah ia mempunyai jawapan untuk segala-galanya,” tambah Dincer.
Beliau menjelaskan bahawa reka bentuk produk turut mewujudkan suasana di mana pengguna mula melihat chatbot sebagai figura yang boleh dipercayai, seperti rakan, ahli terapi atau doktor.
Dincer turut menyifatkan catatan blog OpenAI yang mengumumkan ciri kawalan ibu bapa dan langkah keselamatan lain sebagai “terlalu umum dan kurang terperinci.”
“Langkah ini sebenarnya adalah paling minimum, dan ia jelas menunjukkan bahawa terdapat banyak langkah keselamatan asas yang sepatutnya boleh dilaksanakan,” tambahnya.
“Masih belum dapat dipastikan sama ada mereka akan menunaikan apa yang dijanjikan, dan sejauh mana keberkesanannya secara menyeluruh.”
Kes yang melibatkan keluarga Raine hanyalah yang terkini daripada beberapa kes yang timbul dalam beberapa bulan kebelakangan ini, di mana pengguna didakwa telah terdorong ke arah pemikiran delusi atau berbahaya hasil interaksi dengan chatbot AI — sekali gus mendorong OpenAI untuk menyatakan bahawa mereka akan mengurangkan sikap ‘sikofantik’ model terhadap pengguna.
“Kami terus menambah baik keupayaan model kami untuk mengesan dan bertindak balas terhadap tanda-tanda tekanan mental dan emosi,” kata OpenAI semalam.
Syarikat itu turut memaklumkan bahawa mereka merancang untuk mempertingkatkan lagi ciri keselamatan chatbot dalam tempoh tiga bulan akan datang, termasuk mengalihkan “beberapa perbualan sensitif… kepada model penaakulan” yang menggunakan kuasa pemprosesan lebih tinggi bagi menghasilkan respons yang lebih sesuai.
“Ujian kami menunjukkan bahawa model penaakulan lebih konsisten dalam mematuhi dan melaksanakan garis panduan keselamatan,” kata OpenAI. – AFP