AI Masa Depan Harus Bisa Ragu, Bukan Sekadar Pintar

Salah satu kelemahan sistem AI modern adalah fenomena overconfidence, yaitu ketika model memberikan prediksi dengan tingkat keyakinan tinggi meskipun prediksinya keliru.

Dalam sistem yang digunakan untuk keputusan berisiko tinggi, persoalan ini jauh lebih berbahaya daripada sekadar mendapatkan jawaban yang salah.

Bayangkan sebuah AI medis mengatakan bahwa seseorang tidak memiliki penyakit dengan tingkat keyakinan 99 persen, padahal diagnosis tersebut ternyata keliru. Informasi mengenai tingkat keyakinan menjadi sama pentingnya dengan hasil prediksi itu sendiri.

Prinsip yang sama terlihat dalam adversarial examples. Perubahan kecil pada beberapa piksel gambar yang hampir tidak terlihat manusia dapat membuat jaringan saraf salah mengenali objek secara ekstrem, bahkan dengan tingkat keyakinan yang sangat tinggi.

Fenomena ini menunjukkan bahwa AI membutuhkan cara yang lebih baik untuk merepresentasikan ketidaktahuan.

Dalam dunia nyata, keputusan hampir selalu dibuat berdasarkan informasi yang tidak lengkap. Sistem navigasi, prakiraan cuaca, kendaraan otonom, diagnosis medis, hingga robot harus menghadapi kondisi semacam itu.

Matematika ketidakpastian menyediakan bahasa formal untuk menggambarkan kondisi tersebut. Alih-alih memaksa sistem memilih satu jawaban mutlak, AI dapat mempertimbangkan sejumlah kemungkinan beserta probabilitasnya.

Dengan pendekatan ini, AI dapat mengatakan bahwa sebuah kondisi memiliki kemungkinan tertentu, sekaligus mengakui adanya ketidakpastian yang masih tersisa.

Konsep tersebut sangat dekat dengan cara manusia mengambil keputusan berdasarkan pengalaman dan bukti. Manusia tidak selalu mengetahui keadaan sebenarnya, tetapi dapat memperbarui keyakinan ketika mendapatkan informasi baru.

Salah satu fondasi matematika yang penting dalam pendekatan ini adalah Teorema Bayes.

Secara sederhana, Bayes menjelaskan bagaimana keyakinan awal atau prior dapat diperbarui setelah sistem memperoleh bukti baru. Hasil pembaruan tersebut menghasilkan posterior belief, yaitu tingkat keyakinan setelah informasi tambahan diperhitungkan.

Pendekatan ini memiliki implikasi besar bagi continual learning atau pembelajaran berkelanjutan. AI idealnya tidak hanya belajar sekali saat dilatih, kemudian berhenti memperbarui pemahamannya.

Sebaliknya, sistem dapat terus mengintegrasikan pengalaman baru tanpa menghancurkan pengetahuan yang telah dimiliki sebelumnya. Tantangan tersebut dikenal sebagai catastrophic forgetting, ketika model yang mempelajari informasi baru justru kehilangan kemampuan dari pembelajaran sebelumnya.

Otak manusia mampu menghadapi situasi baru dengan menggabungkan pengalaman masa lalu dan bukti yang baru diperoleh. Pendekatan Bayesian menawarkan kerangka matematis untuk menggambarkan proses pembaruan keyakinan semacam itu.

Menariknya, efisiensi biologis manusia juga menjadi tantangan tersendiri bagi AI. Otak manusia bekerja dengan konsumsi energi sekitar 20 watt, sedangkan pelatihan model AI berukuran besar membutuhkan infrastruktur komputasi dengan konsumsi energi yang jauh lebih besar.

Karena itu, masa depan AI tidak hanya membutuhkan model yang semakin besar, tetapi juga sistem yang lebih hemat energi dan lebih efisien dalam menggunakan data.

GenCast Menunjukkan Nilai Prediksi yang Memahami Ketidakpastian

Penerapan konsep probabilistik dapat dilihat pada perkembangan AI untuk prakiraan cuaca. GenCast, model prakiraan cuaca dari Google DeepMind, menggunakan pendekatan berbasis machine learning untuk menghasilkan prediksi cuaca dengan cepat.

Model tersebut mampu menghasilkan prakiraan hingga sekitar 15 hari ke depan dalam waktu yang jauh lebih singkat dibandingkan metode simulasi konvensional yang membutuhkan komputasi besar.

Yang penting bukan sekadar kecepatannya. Sistem prakiraan yang baik harus mampu memberikan gambaran mengenai berbagai kemungkinan kondisi cuaca, bukan berpura-pura bahwa hanya ada satu masa depan yang pasti.

Informasi tersebut sangat berguna untuk keputusan seperti mitigasi bencana, pengelolaan energi, pertanian, dan perencanaan infrastruktur.

Prinsip serupa juga terlihat dalam penggunaan AI untuk memahami struktur protein. AlphaFold menunjukkan bagaimana machine learning dapat membantu memecahkan persoalan biologis yang sangat kompleks.

Biologi memiliki tingkat ketidakpastian dan kompleksitas yang sangat tinggi. Sebuah sistem AI yang dapat memberikan prediksi sekaligus informasi mengenai keandalannya akan lebih berguna bagi ilmuwan dibandingkan sistem yang sekadar menghasilkan satu jawaban tanpa konteks ketidakpastian.

Dalam penelitian medis, perbedaan tersebut sangat penting. Keputusan ilmiah membutuhkan pemahaman mengenai batas kemampuan sebuah prediksi, bukan hanya angka akhir.

AGI Tidak Cukup Dibangun dengan Menambah Skala

Perdebatan mengenai masa depan Artificial General Intelligence (AGI) sering berpusat pada pertanyaan apakah model AI cukup diperbesar dengan lebih banyak data, parameter, dan daya komputasi.

Pendekatan pure scale memang telah menghasilkan kemajuan besar. Namun, terdapat pandangan bahwa peningkatan skala saja mungkin tidak cukup untuk menghasilkan sistem yang benar-benar mampu menghadapi dunia nyata.

AI juga membutuhkan inovasi arsitektur, efisiensi data, efisiensi energi, kemampuan belajar berkelanjutan, dan representasi ketidakpastian yang lebih baik.

Dengan kata lain, AI masa depan bukan hanya harus lebih pintar, tetapi juga harus lebih sadar terhadap batas pengetahuannya.

Konsep paling penting dari pendekatan ini sebenarnya sederhana: AI seharusnya mampu membedakan antara mengetahui dan mengira bahwa dirinya mengetahui.

Sistem yang mengatakan “saya tidak yakin” ketika menghadapi informasi yang ambigu dapat jauh lebih berguna daripada sistem yang selalu memberikan jawaban dengan kepercayaan penuh.

Dalam konteks dunia nyata, kerendahan hati epistemik bukan kelemahan. Justru kemampuan mengenali ketidakpastian dapat menjadi salah satu ciri utama AI yang aman dan rasional.

Masa depan kecerdasan buatan tidak hanya ditentukan oleh seberapa besar model, seberapa banyak data yang digunakan, atau seberapa cepat perangkat keras berkembang. Salah satu tantangan yang sama pentingnya adalah membuat AI mampu memahami ketidakpastian.

Matematika probabilitas dan pendekatan Bayesian menawarkan kerangka untuk membangun sistem yang dapat memperbarui keyakinan berdasarkan bukti, belajar secara berkelanjutan, serta membedakan antara prediksi dan tingkat kepercayaan terhadap prediksi tersebut.

GenCast dan AlphaFold menunjukkan bagaimana pendekatan berbasis AI dapat memberikan manfaat nyata dalam bidang kompleks seperti cuaca dan biologi.

Pada akhirnya, AI yang paling berguna mungkin bukan sistem yang selalu menjawab dengan percaya diri. Justru, AI yang tahu kapan dirinya tidak tahu dapat menjadi fondasi yang lebih penting bagi kecerdasan buatan yang aman, rasional, dan dapat dipercaya.

FAQ

1. Mengapa AI perlu memahami ketidakpastian? Karena AI digunakan di dunia nyata yang memiliki data terbatas dan kondisi yang tidak selalu dapat diprediksi secara pasti.
2. Apa masalah AI yang overconfident? AI dapat memberikan jawaban yang salah dengan tingkat keyakinan sangat tinggi sehingga pengguna kesulitan mengetahui bahwa prediksi tersebut sebenarnya tidak dapat diandalkan.
3. Apa hubungan Teorema Bayes dengan AI? Teorema Bayes memberikan kerangka untuk memperbarui keyakinan berdasarkan bukti atau informasi baru sehingga sistem dapat membuat keputusan secara probabilistik.
4. Apa contoh AI yang menggunakan pendekatan ketidakpastian? GenCast untuk prakiraan cuaca dan berbagai penerapan AI dalam biologi seperti AlphaFold menunjukkan pentingnya prediksi yang mempertimbangkan kompleksitas dan ketidakpastian.
5. Apakah AI yang mengakui ketidaktahuan berarti lebih lemah? Tidak. Dalam situasi berisiko, kemampuan mengakui ketidakpastian justru dapat membuat AI lebih aman dan dapat dipercaya.