AI dapat menghasilkan konten yang tidak akurat atau menyesatkan, tetapi pengguna seringkali mempercayai jawaban AI tanpa mempertanyakannya.
Foto Ilustrasi: FreepikRingkasan:
- Sebuah studi menemukan bahwa ketika pengguna mempercayai AI, mereka kurang mungkin untuk berpikir kritis tentang jawaban AI.
- Penggunaan AI dapat mengubah peran manusia dari berpikir kritis menjadi hanya memverifikasi jawaban AI.
- Hal ini dapat menyebabkan kemampuan kritis manusia melemah dan meningkatkan ketergantungan pada AI.
- Studi ini menyarankan bahwa pengguna harus lebih kritis dalam menggunakan AI dan tidak mempercayai jawaban AI tanpa mempertanyakannya.
ngarahNyaho - Studi baru dari Carnegie Mellon University dan Microsoft Research menemukan bahwa penggunaan AI generatif dapat mengurangi kemampuan kritis manusia.
AI generatif diharapkan dapat mempermudah hidup. AI menyusun email, meringkas dokumen, dan bahkan menghasilkan konten kreatif, membantu kita mengurangi sebagian upaya kognitif yang menakutkan itu.
Namun, menurut studi baru dari Carnegie Mellon University dan Microsoft Research, AI juga dapat membuat kita lebih bodoh dalam prosesnya.
Studi yang didasarkan pada survei terhadap 319 pekerja pengetahuan ini menemukan bahwa AI secara substansial mengurangi kemampuan kritis orang.
Lebih buruk lagi, AI membuat mereka merasa lebih percaya diri dalam mengambil keputusan, meskipun upaya kognitif yang dilakukan lebih sedikit.
Hasil jangka panjangnya adalah ketergantungan yang berlebihan pada AI, melemahnya keterampilan penalaran, dan ketidakmampuan yang semakin besar untuk mendeteksi kesalahan.
AI generatif sudah dapat menghasilkan segala macam konten. Namun, AI tersebut tidak akurat. AI dapat "berhalusinasi" terhadap fakta, menghasilkan informasi yang menyesatkan, atau memperkuat bias.
Di sisi lain, banyak pengguna menganggap jawaban yang dihasilkan AI dapat dipercaya, meskipun seharusnya tidak.
Studi tersebut menganalisis hampir 1.000 contoh nyata tentang bagaimana para profesional menggunakan AI dalam pekerjaan sehari-hari mereka. Data tersebut dilaporkan sendiri.
“Dalam survei kami, para peserta diminta untuk membagikan tiga contoh nyata penggunaan alat GenAI mereka di tempat kerja," para peneliti menjelaskan dalam studi tersebut.
"Untuk menambah variasi contoh yang dikumpulkan, para peserta diminta untuk memikirkan tiga contoh berbeda, satu untuk setiap jenis tugas: Kreasi, Informasi, dan Saran.
"Kemudian, para peserta diminta untuk membagikan contoh dari setiap jenis tugas secara terperinci,”
Para peneliti menemukan bahwa ketika pengguna memercayai AI, mereka cenderung tidak berpikir kritis tentang responsnya. Dengan kata lain, semakin besar kepercayaan pada AI, semakin sedikit benar-benar memikirkan hasilnya.
Kembali ke kognisi kita
Kita harus menekankan bahwa AI adalah pekerja pengetahuan — orang-orang yang, dalam berbagai kapasitas, menggunakan pengetahuan dan keahlian mereka untuk menciptakan nilai.
Kecerdasan buatan terlibat dalam pemecahan masalah aktif — bertukar pikiran, menyusun ide, dan menarik kesimpulan.
Sekarang, peran utama AI telah bergeser dari berpikir menjadi memverifikasi. Alih-alih menghasilkan ide orisinal, mereka memeriksa hasil AI untuk kesalahan yang jelas.
Sekilas, ini mungkin tampak seperti hal yang baik. AI melakukan pekerjaan berat, dan manusia hanya memverifikasi pekerjaan.
Namun dalam praktiknya, jika orang melewatkan bagian tugas yang paling menuntut secara intelektual, mereka mengorbankan pemikiran kritis mereka sendiri.
Lebih jauh, jika respons yang dihasilkan AI tampak benar, pengguna cenderung menerimanya tanpa pemeriksaan lebih dalam. Hasilnya? Solusi yang tampak cukup bagus tetapi mengikis penalaran manusia seiring waktu.
"Jika digunakan secara tidak tepat, teknologi dapat dan memang mengakibatkan penurunan kemampuan kognitif yang seharusnya dipertahankan," catat para peneliti.
"Ironi utama dari otomatisasi adalah bahwa dengan mekanisasi tugas-tugas rutin dan menyerahkan penanganan pengecualian kepada pengguna manusia, Anda menghilangkan kesempatan rutin bagi pengguna untuk melatih penilaian mereka dan memperkuat otot-otot kognitif mereka, membuat mereka mengalami atrofi dan tidak siap ketika pengecualian muncul."
Ini bukan contoh pertama dari kejadian seperti ini. Dari navigasi GPS yang mengurangi kepekaan kita terhadap arah hingga pemeriksa ejaan yang mengikis kemampuan menulis kita, ada banyak sekali teknologi yang membawa dampak kognitif tersembunyi.
Namun, kita belum pernah memiliki sesuatu yang sekuat dan seluas AI generatif.
Ketergantungan yang berlebihan pada teknologi komputasi bukanlah fenomena baru; namun, perangkat GenAI dapat memperburuk risiko terkait.
"Memang, ketergantungan seperti itu mungkin dapat ditoleransi untuk tugas-tugas berisiko rendah, seperti pemeriksaan tata bahasa, tetapi dapat menyebabkan hasil negatif yang signifikan dalam konteks berisiko tinggi, seperti penyusunan dokumen hukum,” catat para peneliti.
Penelitian tersebut memang menawarkan sedikit harapan.
Orang-orang cenderung terlibat dalam pemikiran kritis ketika mereka lebih percaya diri, memiliki kepercayaan diri yang lebih rendah pada AI, atau ketika tugas tersebut berisiko tinggi, misalnya saat menulis laporan hukum atau medis.
Namun, yang lebih penting adalah mulai mempertanyakan masukan AI. Perlakukan mereka seperti pekerja magang yang cerdas — tetapi tetap saja pekerja magang. AI bukanlah seorang ahli. AI bukanlah pemeriksa fakta.
Verifikasi semuanya dan jangan hanya memeriksa respons untuk kesalahan yang mencolok, rujuk silang dengan sumber lain. AI harus digunakan untuk meningkatkan dan bukan menggantikan penalaran kita.
Namun, penelitian berakhir dengan catatan yang agak mengganggu. Seiring AI semakin maju, godaan untuk mengandalkannya akan semakin meningkat. |Sumber: ZME Magazine
إرسال تعليق