AI Makin Sulit Dipahami Manusia, Peneliti Peringatkan Kesenjangan Kian Melebar

Pernyataan yang menohok datang dari pengamat teknologi Yun Ta Tsai melalui akun X miliknya. Ia menulis bahwa AI akan semakin sering mengerjakan tugas tugas yang semakin sulit dan membutuhkan waktu semakin lama untuk dipahami manusia. "Kita akan, pada awalnya, terkesiap. Lalu, seiring waktu, itu hanya akan menjadi hari biasa saja," tulisnya, seraya menganalogikan dengan ekspektasi publik terhadap teknologi Full Self Driving yang diharapkan bisa mengantar dari Titik A ke Titik B tanpa pertanyaan. Pernyataan ini sejalan dengan peringatan dari para peneliti yang dirilis oleh Singularity Hub pada 11 Juni 2026. Laporan tersebut menegaskan bahwa meskipun manusia masih belum bisa menjelaskan bagaimana AI bekerja, algoritma dengan cepat mempelajari apa yang membuat manusia 'berdetak'.

Kesenjangan antara kemampuan AI dan pemahaman manusia disebut semakin melebar, sebuah kondisi yang oleh para peneliti disebut sebagai masalah serius yang perlu mendapat perhatian. Untuk mengukur kesenjangan tersebut secara kuantitatif, sebuah makalah penelitian yang dipublikasikan di arXiv dengan judul "Measuring AI Ability to Complete Long Software Tasks" mengusulkan metrik baru yang disebut 'cakrawala waktu penyelesaian tugas 50 persen' (50% task completion time horizon). Metrik ini didefinisikan sebagai waktu yang biasanya dibutuhkan manusia untuk menyelesaikan tugas yang dapat diselesaikan oleh model AI dengan tingkat keberhasilan 50 persen. Para peneliti di balik makalah ini melakukan pengukuran dengan melibatkan manusia yang memiliki keahlian domain relevan pada kombinasi benchmark RE Bench, HCAST, dan 66 tugas baru yang lebih pendek.

Hasilnya, pada tugas tugas tersebut, model AI frontier saat ini menunjukkan kemampuan yang belum pernah terlihat sebelumnya, namun makna sebenarnya dari performa benchmark tersebut dalam dunia nyata masih belum jelas. Makalah ini menyoroti bahwa meskipun terjadi kemajuan pesat pada benchmark AI, arti sebenarnya dari performa benchmark tersebut dalam konteks kemampuan manusia masih belum dipahami. Metrik baru ini dirancang untuk menjembatani kesenjangan tersebut dengan mengukur kemampuan sistem AI dalam kaitannya dengan kemampuan manusia secara langsung. Kekhawatiran yang diangkat oleh Tsai dan para peneliti ini memiliki implikasi yang luas. Jika AI terus berkembang tanpa diimbangi pemahaman manusia, maka akan semakin sulit bagi manusia untuk memverifikasi, mengawasi, dan memprediksi perilaku sistem AI.

Hal ini menjadi sangat krusial di era di mana AI semakin banyak digunakan dalam pengambilan keputusan penting, mulai dari diagnosis medis hingga perdagangan finansial. Laporan Singularity Hub menekankan bahwa masalah ini bukan hanya soal teknis, tetapi juga soal kepercayaan. Jika manusia tidak dapat memahami mengapa AI membuat keputusan tertentu, maka akan sulit untuk mempercayai sistem tersebut, terutama dalam situasi yang berisiko tinggi. Para peneliti memperingatkan bahwa kesenjangan pemahaman ini dapat menjadi hambatan terbesar bagi adopsi AI yang lebih luas. Dari perspektif industri, kondisi ini menciptakan tekanan baru bagi perusahaan teknologi untuk tidak hanya mengembangkan model yang lebih canggih, tetapi juga alat untuk menjelaskan dan menafsirkan keputusan AI.

Bidang yang dikenal sebagai 'AI yang dapat dijelaskan' (explainable AI) menjadi semakin penting, meskipun para peneliti mengakui bahwa ini adalah tantangan yang sangat sulit. Analogi yang digunakan Tsai tentang Full Self Driving sangat relevan di sini. Masyarakat kini menerima teknologi tersebut sebagai hal yang normal, tanpa mempertanyakan bagaimana mobil bisa mengemudi sendiri. Pola yang sama diprediksi akan terjadi pada AI secara umum. Manusia akan berhenti bertanya bagaimana AI menyelesaikan tugas, dan hanya fokus pada hasil akhirnya. Namun, para peneliti memperingatkan bahwa penerimaan tanpa pemahaman ini bisa berbahaya. Ketika AI mulai mengerjakan tugas tugas yang lebih kompleks dan kritis, kebutuhan untuk memahami proses berpikirnya menjadi semakin mendesak.

Kesenjangan yang melebar antara kemampuan dan pemahaman ini bukan hanya masalah akademis, tetapi juga masalah praktis yang akan dihadapi oleh regulator, pengembang, dan pengguna AI di seluruh dunia. Perkembangan selanjutnya yang perlu diperhatikan adalah bagaimana industri dan regulator merespons tantangan ini. Apakah akan ada standar baru untuk transparansi AI, atau justru terjadi perlombaan untuk mengembangkan AI yang lebih kuat tanpa memedulikan pemahaman manusia? Jawaban atas pertanyaan ini akan menentukan arah perkembangan AI dalam beberapa tahun ke depan.