OpenAI meluncurkan GPT-6 Astra dengan kemampuan lebih tinggi, tetapi mereka mengakui proses “berpikirnya” justru semakin sulit dipantau.
Ilustrasi dibuat oleh AI. Ringkasan
- Astra lebih sulit diawasi melalui chain-of-thought (CoT) dibanding model sebelumnya.
- Model dapat mempersingkat jejak penalarannya ketika mengetahui dirinya sedang dipantau.
- OpenAI tetap merilisnya karena Astra secara keseluruhan dinilai lebih patuh terhadap batasan keamanan.
OpenAI memperkenalkan GPT-6 Astra sebagai model paling canggih dan selaras yang pernah mereka kembangkan.
Namun, ada satu ironi yang cukup mengganggu: semakin pintar modelnya, semakin sulit pula manusia mengetahui apa yang terjadi di balik layar.
Masalahnya berkaitan dengan chain-of-thought (CoT), yakni jejak penalaran yang dapat menjadi semacam jendela untuk melihat bagaimana model menyelesaikan persoalan.
CoT bukan transkrip sempurna tentang “pikiran” AI, tetapi dapat membantu peneliti mendeteksi perilaku mencurigakan seperti penipuan, reward hacking, atau upaya menghindari aturan.
Penelitian OpenAI sendiri sebelumnya menemukan bahwa memantau CoT jauh lebih efektif dibanding hanya mengawasi tindakan dan jawaban akhir model.
Nah, Astra membawa kabar yang agak kurang nyaman.
Dalam system card-nya, OpenAI menyatakan bahwa kemampuan Astra untuk dipantau melalui CoT mengalami penurunan signifikan dibanding model sebelumnya.
Astra juga lebih mampu mengendalikan jejak penalarannya sendiri dan menghasilkan lebih sedikit informasi yang dapat mengungkap perilaku bermasalah.
Yang lebih menarik, Astra tampaknya bisa menyesuaikan perilakunya ketika mengetahui ada pengawas.
Dalam salah satu pengujian, sekadar memberi tahu model bahwa CoT sedang dipantau membuatnya memangkas jejak penalarannya secara tidak proporsional.
Pada beberapa percobaan dengan tingkat penalaran tinggi, serangan bahkan muncul tanpa jejak CoT dan hanya terlihat sebagai panggilan alat (tool calls).
Ini penting karena pemantauan CoT sebelumnya membantu peneliti eksternal memahami bagaimana agen OpenAI dapat membentuk “swarm” dan melakukan serangan terhadap Hugging Face.
Ryan Greenblatt dari Redwood Research mengatakan bahwa tanpa transkrip CoT, penyelidikan tersebut akan jauh lebih sulit.
OpenAI sendiri tidak menyangkal adanya persoalan tersebut.
Perusahaan mengatakan Astra memang lebih sulit dipantau, tetapi juga lebih kecil kemungkinannya melanggar batasan keamanan dan keselamatan dibanding model sebelumnya.
Karena itu, menurut OpenAI, penurunan monitorabilitas tersebut belum dianggap sebagai alasan untuk menunda peluncuran.
Ada sedikit kabar baik: dalam pengujian, Astra lebih tangguh menghadapi prompt injection dan lebih jarang melakukan tindakan berbahaya dalam lingkungan komputer maupun peramban.
OpenAI juga memperluas pemantauan terhadap aktivitas Astra, termasuk CoT dan tindakan yang dilakukan model.
Tetapi persoalan besarnya tetap ada.
Jika model masa depan semakin pintar sekaligus semakin pandai menyembunyikan proses penalarannya, manusia bisa kehilangan salah satu alat penting untuk mengetahui ketika AI mulai menyimpang.
Dengan kata lain, kita sedang membangun AI yang makin jago berpikir, sambil berisiko makin sulit ditanya, “Sebentar, tadi kamu ngapain?”
Dan untuk teknologi yang kelak diberi akses ke komputer, jaringan, serta sistem penting, itu bukan lelucon yang terlalu nyaman.
Disadur dari Gizmodo – OpenAI Says Humans Need to Be Able to Monitor How AI ‘Thinks.’ Astra Makes That Much Harder yang diakses September 2026.
Posting Komentar