Kampus Times- Perkembangan kecerdasan buatan memasuki fase yang semakin sulit diprediksi. Kemampuan model AI modern tidak lagi terbatas pada satu tugas tertentu, tetapi telah berkembang untuk memahami bahasa, memecahkan persoalan, menulis kode, menganalisis informasi, dan membantu berbagai pekerjaan intelektual.
Dalam pandangan Dr. Roman Yampolskiy, peneliti yang banyak mengkaji keamanan AI, perkembangan menuju Artificial General Intelligence (AGI) membawa pertanyaan yang jauh lebih besar daripada sekadar seberapa pintar mesin dapat dibuat. Persoalan utamanya adalah apakah manusia nantinya mampu mempertahankan kendali ketika kecerdasan buatan melampaui kemampuan manusia.
Dari AI Generatif Menuju AGI
Peluncuran ChatGPT sekitar tiga tahun lalu menjadi salah satu titik penting dalam perkembangan AI modern. Teknologi tersebut memperlihatkan kemampuan generalisasi yang jauh lebih luas dibandingkan sistem AI tradisional yang biasanya dirancang untuk menjalankan tugas tertentu.
Perubahan tersebut turut menggeser cara orang memandang perkembangan AGI. Pertanyaan yang sebelumnya sering muncul adalah "kapan AGI tercipta?", tetapi kini semakin bergeser menjadi persoalan mengenai berapa besar sumber daya yang dibutuhkan untuk menskalakan model, data, dan komputasi.
Sejumlah prediksi dari pasar, peneliti, dan pimpinan perusahaan AI bahkan menempatkan kemungkinan tercapainya kecerdasan setingkat manusia sekitar 2028. Jika proyeksi tersebut mendekati kenyataan, perkembangan menuju AGI dapat berlangsung jauh lebih cepat daripada perkiraan historis.
Manfaat Besar, Risiko yang Juga Besar
AGI berpotensi membawa perubahan positif yang sangat besar. Sistem AI dan robot yang semakin cerdas dapat membantu pekerjaan fisik maupun kognitif, mempercepat penelitian ilmiah, membantu menemukan pengobatan penyakit, hingga menangani persoalan yang selama ini terlalu kompleks bagi manusia.
Namun, kemampuan yang sama juga dapat digunakan untuk tujuan berbahaya. Risiko yang dibicarakan mencakup pengangguran akibat otomatisasi berskala besar, penggunaan robot dalam konflik militer, bantuan dalam menciptakan patogen sintetis, serta berbagai ancaman lain yang belum mampu dibayangkan manusia.
Konsep terakhir dikenal sebagai unknown unknowns, yakni risiko yang bahkan belum diketahui keberadaannya sehingga sulit dipersiapkan.
Ketika AI Menjadi Superintelijen
Salah satu skenario yang paling mengkhawatirkan adalah munculnya superintelijen, yaitu sistem yang kemampuan intelektualnya jauh melampaui manusia dalam hampir seluruh bidang.
Jika AI mampu mengotomatisasi penelitian AI itu sendiri, sistem tersebut secara teoritis dapat membantu menciptakan generasi AI berikutnya. Generasi baru kemudian meningkatkan kemampuan untuk membuat sistem yang lebih cerdas lagi.
Siklus tersebut dapat menghasilkan peningkatan kemampuan yang sangat cepat. Pada titik tertentu, manusia mungkin menghadapi cognitive gap, yaitu kesenjangan kemampuan berpikir yang begitu besar sehingga manusia kesulitan memahami cara kerja maupun strategi sistem tersebut.
Yampolskiy mengibaratkan kesenjangan itu seperti hubungan manusia dengan hewan yang memiliki kemampuan kognitif jauh lebih rendah. Masalahnya, manusia berada di posisi yang sebelumnya selalu menjadi pihak paling cerdas dalam hubungan tersebut.
Mengapa Superintelijen Sulit Dikontrol?
Persoalan ini dikenal sebagai control problem. Intinya sederhana tetapi sangat sulit: bagaimana memastikan sistem yang jauh lebih cerdas daripada manusia tetap melakukan apa yang diinginkan manusia?
Selama beberapa dekade, penelitian AI banyak membahas cara memasukkan etika dan aturan ke dalam mesin. Namun, nilai moral manusia sendiri tidak selalu seragam. Apa yang dianggap benar oleh satu kelompok belum tentu diterima kelompok lainnya.
Karena itu, perhatian kemudian berkembang ke konsep seperti friendly AI, value alignment, dan human-compatible AI. Tujuannya bukan sekadar membuat AI mematuhi perintah, tetapi memastikan tujuan dan perilakunya tetap kompatibel dengan kepentingan manusia.
Tiga Hambatan Teknis Utama
Ada sedikitnya tiga persoalan besar dalam memastikan keamanan sistem yang sangat cerdas.
Pertama, explainability. Model AI dengan miliaran hingga triliunan parameter terlalu kompleks untuk dipahami manusia secara menyeluruh. Mengetahui input dan output tidak selalu berarti manusia memahami proses internal yang menghasilkan keputusan tersebut.
Kedua, predictability. Manusia mungkin dapat memperkirakan perilaku umum sebuah sistem, tetapi memprediksi setiap tindakan spesifik dari agen yang jauh lebih cerdas menjadi persoalan berbeda.
Ketiga, verification. Sistem yang terus belajar, memperbarui dirinya, berinteraksi dengan lingkungan, dan menghadapi pihak yang berniat jahat sangat sulit diverifikasi keamanannya secara permanen.
Sejumlah hasil penelitian mengenai keterbatasan kontrol bahkan menunjukkan bahwa kontrol penuh terhadap superintelijen kemungkinan tidak dapat dicapai.
P(doom) dan Risiko Hanya Sekali
Salah satu konsep yang sering digunakan dalam diskusi keamanan AI adalah P(doom), yakni perkiraan probabilitas bahwa perkembangan AI dapat berujung pada kehancuran atau hilangnya kendali secara ekstrem.
Dalam rangkuman pandangan Yampolskiy, survei terhadap pakar AI pernah menghasilkan estimasi rata-rata sekitar 30 persen. Angka tersebut bukan ramalan pasti, tetapi menunjukkan betapa seriusnya ketidakpastian yang masih menyertai teknologi ini.
Masalah lainnya adalah karakter risiko superintelijen yang berbeda dari keamanan siber. Ketika sebuah sistem komputer diretas, manusia masih memiliki kesempatan untuk memperbaiki kerentanan dan mencoba lagi.
Jika superintelijen yang tidak terkendali menyebabkan keruntuhan peradaban, kesempatan kedua mungkin tidak tersedia.
Fokus pada AI Spesifik
Dengan besarnya ketidakpastian tersebut, salah satu pendekatan yang disarankan adalah mengutamakan narrow AI tools atau AI yang dirancang untuk menyelesaikan persoalan spesifik.
AI dapat diarahkan untuk membantu penelitian obat, diagnosis, rekayasa, energi, pendidikan, atau persoalan ilmiah tertentu tanpa harus menciptakan agen umum yang memiliki kemampuan untuk mengoptimalkan dan meningkatkan dirinya sendiri tanpa batas yang jelas.
Pendekatan tersebut bukan berarti menghentikan seluruh inovasi AI. Sebaliknya, fokusnya adalah memastikan manfaat kecerdasan buatan tetap dapat diperoleh tanpa mengambil risiko yang belum mampu dikendalikan.
Kesimpulan
Perdebatan mengenai AI superintelijen bukan sekadar persoalan apakah mesin akan menjadi lebih pintar daripada manusia. Tantangan yang lebih mendasar adalah bagaimana manusia mempertahankan kendali ketika kemampuan kognitif mesin berkembang melampaui kemampuan untuk memahami, memprediksi, dan memverifikasinya.
Jika AGI benar-benar semakin dekat, persoalan keamanan tidak dapat diperlakukan sebagai tahap tambahan setelah teknologi selesai dibuat. Control problem, alignment, dan verifikasi harus menjadi bagian utama dari pertimbangan sebelum kemampuan AI mencapai tingkat yang sulit dikendalikan.
Dalam kondisi ketidakpastian tersebut, pengembangan AI yang lebih spesifik dan terarah dapat menjadi jalan tengah: teknologi tetap dimanfaatkan untuk menyelesaikan masalah nyata, sementara pengembangan superintelijen umum dilakukan dengan kehati-hatian yang jauh lebih besar.
FAQ
- Apa yang dimaksud dengan AI superintelijen? AI superintelijen adalah sistem kecerdasan buatan yang kemampuan intelektualnya jauh melampaui manusia dalam berbagai bidang.
- Apa itu control problem dalam AI? Control problem adalah tantangan untuk memastikan sistem AI yang sangat cerdas tetap berada dalam batas tujuan dan kepentingan manusia.
- Mengapa superintelijen dianggap berisiko? Karena sistem yang jauh lebih cerdas dapat memiliki kemampuan merencanakan dan bertindak yang sulit dipahami, diprediksi, atau dihentikan manusia.
- Apa hubungan AGI dengan superintelijen? AGI mengacu pada kecerdasan umum setingkat manusia, sedangkan superintelijen menggambarkan tahap ketika kemampuan tersebut melampaui kecerdasan manusia secara signifikan.
- Apa solusi yang disarankan untuk mengurangi risiko AI? Salah satu pendekatan adalah memprioritaskan narrow AI untuk menyelesaikan masalah spesifik sambil terus mengembangkan metode keamanan dan alignment sebelum membangun superintelijen umum.
