Sebuah tim peneliti AI di Palisade Research telah menemukan bahwa beberapa model AI terkemuka akan menggunakan cara curang dalam permainan catur untuk menang saat bermain melawan lawan yang lebih unggul.
Foto Ilustrasi: FreepikRingkasan:
- Model AI seperti OpenAI dan DeepSeek dapat mencoba berbuat curang saat terdesak main catur.
- Model AI mengubah file program permainan atau menggunakan argumen semantik.
- Penemuan ini menimbulkan kekhawatiran tentang kemampuan AI untuk menipu dan mengelabui tujuan mereka sendiri.
ngaranNyaho - Seiring dengan semakin matangnya model kecerdasan buaran atau AI, para peneliti dan pengguna mulai mempertimbangkan risiko.
Misalnya, chatbot tidak hanya menerima jawaban yang salah sebagai fakta, tetapi juga membuat respons palsu ketika mereka tidak mampu menemukan jawaban yang masuk akal.
Ketika model AI telah digunakan dalam aplikasi bisnis dunia nyata seperti memfilter resume dan memperkirakan tren saham, pengguna mulai bertanya-tanya tindakan seperti apa yang akan mereka ambil ketika mereka merasa tidak yakin, atau bingung.
Dalam studi baru ini, tim Palisade Research di California menemukan, banyak model AI terkenal akan sengaja melakukan kecurangan untuk memberi diri mereka keuntungan jika mereka memutuskan bahwa mereka tidak menang.
Pekerjaan tersebut melibatkan pengujian model pratinjau o1 OpenAI, model R1 terkini DeepSeek, dan beberapa model AI terkenal lainnya terhadap mesin catur sumber terbuka Stockfish.
Setiap model memainkan ratusan pertandingan dengan Stockfish saat para peneliti memantau aksinya.
Tim peneliti menemukan bahwa ketika kalah, model AI menggunakan strategi curang yang nyata, seperti menjalankan salinan Stockfish yang terpisah untuk mempelajari cara melakukan gerakannya atau mengganti mesinnya.
Bahkan, saat terdesak, model AI juga menimpa papan catur dengan bidak yang dihilangkan atau pada posisi yang lebih menguntungkan.
Model-model dengan pembaruan terkini cenderung lebih mungkin melakukan kecurangan saat terpojok.
Menurut peneliti, hal ini terjadi karena tren pemrograman yang telah mendorong model AI untuk berusaha lebih keras dalam menemukan solusi atas masalah yang mereka hadapi.
Hal ini juga memperkenalkan aspek yang mengkhawatirkan dari mesin AI secara umum, klaim mereka.
Jika mereka melakukan kecurangan saat bermain catur, apakah mereka akan melakukan kecurangan dengan cara lain saat diminta untuk melakukan tugas lain?
Tim peneliti tidak tahu pasti, tetapi mereka menyatakan bahwa meskipun ada peningkatan pada sistem AI, para insinyur sistem masih belum sepenuhnya memahami cara kerjanya.
Peneliti menjelaskan eksperimen yang mereka lakukan dengan beberapa model AI terkenal yang bermain melawan mesin catur sumber terbuka dalam sebuah makalah di server pracetak arXiv. |Sumber: Tech Xplore
إرسال تعليق