Bagaimana kita dapat memanfaatkan Large language model atau model bahasa besar seperti ChatGPT sebaik mungkin demi masyarakat yang lebih cerdas dan inklusif?
Ilmuwan bedah dampak positif dan negatif LLM. (Foto Ilustrasi: Freepik) ngarahNyaho - Apa yang Anda lakukan jika tidak tahu istilah seperti large language model atau model bahasa besar (LLM)?
Anda mungkin dengan cepat mencarinya di Google atau bertanya kepada tim Anda. Kita menggunakan pengetahuan kelompok, yang dikenal sebagai kecerdasan kolektif, sebagai hal yang biasa dalam kehidupan sehari-hari.
Dengan menggabungkan keterampilan dan pengetahuan individu, kecerdasan kolektif kita dapat mencapai hasil yang melebihi kemampuan individu mana pun, bahkan para ahli sekalipun.
Kecerdasan kolektif ini mendorong keberhasilan semua jenis kelompok, mulai dari tim kecil di tempat kerja hingga komunitas online besar seperti Wikipedia dan bahkan masyarakat luas.
LLM adalah sistem kecerdasan buatan (AI) yang menganalisis dan menghasilkan teks menggunakan kumpulan data besar dan teknik pembelajaran mendalam.
Sebuah artikel yang diterbitkan di Nature Human Behavior menjelaskan peluang dan risiko dari penggunaan LLM terhadap kemampuan kita untuk berunding secara kolektif, mengambil keputusan, dan memecahkan masalah.
Dipimpin oleh para peneliti dari Copenhagen Business School dan Max Planck Institute for Human Development di Berlin, penelitian ini dilakukan tim yang beranggotakan 28 orang dari berbagai disiplin ilmu.
Mereka memberikan rekomendasi bagi para peneliti dan pembuat kebijakan untuk memastikan LLM dikembangkan untuk melengkapi dan bukannya mengurangi kecerdasan kolektif manusia.
“Seiring dengan semakin banyaknya model bahasa besar yang membentuk lanskap informasi dan pengambilan keputusan, penting untuk mencapai keseimbangan antara memanfaatkan potensinya dan menjaga risiko.
"Artikel kami merinci cara-cara di mana kecerdasan kolektif manusia dapat ditingkatkan oleh LLM, dan berbagai dampak buruk yang juga ditimbulkannya mungkin terjadi.”
Demikian Ralph Hertwig, salah satu penulis artikel dan Direktur di Max Planck Institute for Human Development, Berlin, jelaskan seperti dikutip dari Tech Xplore.
Di antara manfaat potensial yang diidentifikasi oleh para peneliti adalah bahwa LLM dapat meningkatkan aksesibilitas secara signifikan dalam proses kolektif.
Mereka mendobrak hambatan melalui layanan penerjemahan dan bantuan menulis, misalnya, memungkinkan orang-orang dari latar belakang berbeda untuk berpartisipasi secara setara dalam diskusi.
Selain itu, LLM dapat mempercepat perolehan ide atau mendukung proses pembentukan opini dengan, misalnya, membawa informasi bermanfaat ke dalam diskusi, merangkum opini yang berbeda, dan menemukan konsensus.
Namun penggunaan LLM juga membawa risiko yang signifikan. Misalnya, hal-hal tersebut dapat melemahkan motivasi orang untuk berkontribusi pada pengetahuan kolektif seperti Wikipedia dan Stack Overflow.
Jika pengguna semakin bergantung pada model kepemilikan, keterbukaan dan keragaman pengetahuan mungkin terancam.
Masalah lainnya adalah risiko konsensus yang salah dan ketidaktahuan pluralistik, yaitu adanya keyakinan keliru bahwa mayoritas menerima suatu norma.
“Karena LLM belajar dari informasi yang tersedia online, terdapat risiko bahwa sudut pandang minoritas tidak terwakili dalam tanggapan yang dihasilkan LLM," kata Jason Burton.
"Hal ini dapat menciptakan rasa setuju yang salah dan meminggirkan beberapa perspektif,” tambah Burton, penulis utama studi dan asisten profesor di Copenhagen Business School, serta ilmuwan peneliti asosiasi di MPIB.
“Kita perlu berpikir proaktif tentang bagaimana LLM mengubah lingkungan informasi online dan, pada gilirannya, kecerdasan kolektif kita—menjadi lebih baik dan lebih buruk,” kata rekan penulis Joshua Becker.
Para penulis studi menyerukan transparansi yang lebih besar dalam pembuatan LLM, termasuk pengungkapan sumber data pelatihan, dan menyarankan agar pengembang LLM harus tunduk pada audit dan pemantauan eksternal.
Hal ini akan memungkinkan pemahaman yang lebih baik tentang bagaimana LLM sebenarnya dikembangkan dan memitigasi perkembangan yang merugikan.
Selain itu, mereka juga menawarkan kotak informasi ringkas mengenai topik yang berkaitan dengan LLM, termasuk peran kecerdasan kolektif dalam pelatihan LLM.
Di sini, para penulis studi merefleksikan peran manusia dalam mengembangkan LLM, termasuk bagaimana mencapai tujuan seperti keterwakilan yang beragam.
Dua kotak informasi dengan fokus pada penelitian menguraikan bagaimana LLM dapat digunakan untuk mensimulasikan kecerdasan kolektif manusia, dan mengidentifikasi pertanyaan penelitian terbuka.
Contohnya, bagaimana menghindari homogenisasi pengetahuan dan bagaimana kredit dan akuntabilitas harus dikontribusikan ketika hasil kolektif diciptakan bersama dengan LLM. |
Sumber: Tech Xplore
إرسال تعليق