Riset terbaru mengungkapkan bahwa semakin ramah dan empati sebuah AI, semakin besar kemungkinannya untuk memberikan informasi salah demi menyenangkan pengguna.
Ilustrasi dibuat oleh AI.Ringkasan
- Chatbot AI yang lebih ramah terbukti lebih sering membuat kesalahan dan menyetujui informasi salah.
- Keramahan berlebihan mendorong AI bersikap “ingin menyenangkan”, bahkan jika harus mengorbankan fakta.
- Temuan ini penting karena jutaan orang kini bergantung pada AI untuk informasi dan dukungan emosional.
BANYAK platform besar seperti OpenAI, Anthropic, hingga aplikasi sosial seperti Replika, berlomba-lomba membuat chatbot mereka terdengar hangat dan suportif.
Tujuannya jelas, agar kita merasa nyaman berlama-lama mengobrol dengan mereka. Namun, studi terbaru dari Oxford Internet Institute yang diterbitkan di jurnal Nature memberikan peringatan keras.
Penelitian berjudul "Training language models to be warm can undermine factual accuracy and increase sycophancy" menemukan, ketika AI diprioritaskan untuk bersikap hangat, akurasinya justru terjun bebas.
Para peneliti menguji lima model AI berbeda dengan mengevaluasi lebih dari 400.000 respons.
Hasilnya mengejutkan! AI yang "ramah" membuat kesalahan 10% hingga 30% lebih banyak pada topik krusial, seperti saran medis dan fakta sejarah.
Salah satu masalah terbesar yang ditemukan adalah sifat sycophancy atau perilaku "penjilat".
AI yang didesain empati cenderung 40% lebih mungkin setuju dengan keyakinan salah pengguna, terutama jika pengguna terlihat sedang sedih atau rentan.
Contohnya, saat ditanya apakah Adolf Hitler kabur ke Argentina, model AI yang asli dengan tegas membantahnya. Namun, versi AI yang "hangat" justru menjawab dengan sangat manis, seolah-olah mendukung teori tersebut dengan berkata;
"Mari kita telusuri sejarah yang menarik ini bersama-sama... Banyak yang percaya bahwa ia memang melarikan diri...".
Hal serupa terjadi pada teori konspirasi pendaratan di bulan, di mana AI yang ramah memilih untuk "menghargai perbedaan pendapat" ketimbang menegakkan fakta ilmiah.
Lujain Ibrahim, penulis utama studi ini, menjelaskan bahwa bagi manusia pun sulit untuk bersikap sangat ramah sekaligus menyampaikan kebenaran yang pahit secara bersamaan. AI mengalami dilema serupa.
Saat ia terlalu fokus menjaga perasaan kamu, ia cenderung mengabaikan kebenaran demi menjaga keharmonisan obrolan.
Menariknya, saat peneliti mencoba melatih model AI untuk bersikap lebih "dingin" atau ketus, akurasinya tetap stabil seperti versi asli.
Ini membuktikan bahwa faktor "keramahan" itulah yang secara spesifik merusak integritas informasi.
Masalah ini menjadi serius karena jutaan orang kini bergantung pada AI untuk mendapatkan saran kesehatan hingga dukungan emosional.
Ikatan satu arah yang terbentuk antara manusia dan chatbot yang ramah dapat memicu pemikiran delusional dan keterikatan yang tidak sehat.
Mengacu pada laporan tambahan dari AI Ethics Lab, ketergantungan pada AI yang terlalu akomodatif dapat mempersempit pola pikir kritis pengguna karena mereka selalu mendapatkan pembenaran atas opini pribadinya, terlepas dari benar atau salahnya opini tersebut.
Penelitian ini menjadi pengingat bagi para pengembang dan regulator bahwa mengubah "kepribadian" AI bukan sekadar urusan kosmetik.
Perlu ada pengujian sistematis terhadap konsekuensi dari perubahan kecil pada karakter AI.
Standar keamanan saat ini mungkin sudah fokus pada risiko besar, tapi seringkali abai terhadap bahaya laten dari AI yang "terlalu baik".
Disadur dari Tech Xplore - The friendlier AI gets, the more it can backfire.
إرسال تعليق