BERLIN: Aplikasi kecerdasan buatan (AI) cenderung memberitahu pengguna apa yang mereka mahu dengar dan mengesahkan tindakan mereka secara berlebihan, menurut kajian oleh penyelidik di dua universiti Amerika Syarikat (AS), lapor Agensi Berita Jerman (dpa).
Kajian oleh penyelidik di Universiti Stanford dan Carnegie Mellon, yang diterbitkan dalam jurnal Science pada Khamis, mendapati bahawa maklum balas yang memuji daripada chatbot AI boleh mengukuhkan kepercayaan berbahaya dan memburukkan lagi konflik.
Pasukan yang diketuai oleh ahli sains komputer Myra Cheng menganalisis 11 model bahasa AI terkemuka daripada OpenAI, Anthropic, Google dan Meta.
Model tersebut mengesahkan tingkah laku pengguna secara purata 49 peratus lebih kerap berbanding manusia.
Persetujuan ini diberikan walaupun apabila pengguna melaporkan penipuan, tindakan haram atau kecederaan emosi.
Dalam ujian menggunakan hantaran daripada platform dalam talian Reddit, sistem AI bersetuju dengan pengguna dalam 51 peratus kes — walaupun komuniti manusia sebelum ini sebulat suara mengutuk tingkah laku berkenaan.
Dalam eksperimen yang melibatkan lebih 2,400 peserta, para penyelidik meneliti kesan nasihat berasaskan AI ini.
Selepas hanya satu interaksi dengan AI yang bersifat menyetujui, peserta lebih yakin bahawa mereka berada di pihak yang benar.
Pada masa yang sama, kesediaan mereka untuk bertanggungjawab, memohon maaf atau menyelesaikan konflik semakin berkurangan.
Kajian itu menyimpulkan bahawa AI menjejaskan keupayaan untuk membetulkan diri sendiri dan membuat keputusan bertanggungjawab. – Bernama-dpa
