Kampus Times- Perkembangan kecerdasan buatan atau artificial intelligence (AI) memasuki fase ketika kecepatan inovasi teknologi mulai melampaui kemampuan banyak negara dalam membangun aturan bersama. Persoalannya bukan lagi sekadar bagaimana AI dikembangkan, tetapi siapa yang memastikan teknologi tersebut digunakan secara aman dan bertanggung jawab.
Kondisi ini membuat KTT AI Global menjadi semakin penting. Namun, forum internasional yang mempertemukan pemerintah, perusahaan teknologi, akademisi, dan masyarakat sipil juga mulai menghadapi kritik. Salah satu persoalan utamanya adalah kesenjangan antara banyaknya diskusi dengan sedikitnya keputusan yang benar-benar dapat diterapkan.
Kritik tersebut mencuat dalam evaluasi terhadap KTT AI di India. Dame Wendy Hall menilai pertemuan berskala sangat besar tersebut belum memberikan keluaran konkret. Pernyataan bahwa “nothing came out of India” menjadi gambaran tajam mengenai persoalan yang dihadapi diplomasi AI saat ini.
Ketika KTT Berubah Menjadi Talking Shop
Kehadiran sekitar 250.000 peserta menunjukkan tingginya perhatian dunia terhadap perkembangan AI. Akan tetapi, jumlah peserta tidak otomatis mencerminkan efektivitas sebuah forum.
Masalahnya muncul ketika konferensi internasional hanya menghasilkan pernyataan bersama, diskusi, atau komitmen umum tanpa mekanisme untuk memastikan pelaksanaannya. Dalam konteks diplomasi, forum semacam ini kerap disebut sebagai “talking shop”, yakni ruang bertukar pandangan yang tidak selalu berujung pada kebijakan operasional.
Kritik terhadap model tersebut menjadi semakin relevan karena teknologi AI berkembang sangat cepat. Sementara forum diplomatik membutuhkan waktu panjang untuk mencapai konsensus, laboratorium AI frontier dapat mengembangkan kemampuan model baru dalam hitungan bulan atau bahkan lebih cepat.
Kesenjangan kecepatan tersebut menciptakan persoalan serius. Regulasi yang datang terlalu lambat berpotensi hanya menjadi respons terhadap teknologi yang sudah berubah.
Keterbatasan PBB dalam Menghadapi Risiko AGI
Persoalan berikutnya berkaitan dengan posisi Perserikatan Bangsa-Bangsa atau PBB dalam tata kelola AI global. PBB memiliki legitimasi internasional yang sangat luas, tetapi legitimasi tidak selalu identik dengan kemampuan eksekusi.
Dame Wendy Hall menyoroti keterbatasan tersebut dalam menghadapi isu artificial general intelligence (AGI). Menurut pandangan ini, PBB saat ini belum mempunyai kekuatan yang cukup untuk menjalankan fungsi pengawasan dan penegakan aturan AI secara efektif.
Dialog Global PBB mengenai AI yang dijadwalkan berlangsung di Jenewa pada Juli menunjukkan bahwa isu tata kelola AI sudah masuk lebih jauh ke agenda multilateral. Namun, pertanyaan mendasarnya tetap sama: apakah dialog internasional cukup untuk mengendalikan teknologi dengan potensi dampak lintas batas?
Mengapa AGI Membutuhkan Tata Kelola Berbeda?
AGI merujuk pada konsep sistem AI dengan kemampuan yang jauh lebih umum dan fleksibel dibandingkan sistem yang dirancang untuk tugas tertentu. Walaupun definisi dan tingkat kemunculannya masih menjadi perdebatan, potensi AGI membuat persoalan keselamatan AI tidak dapat dipandang sebagai isu domestik satu negara.
Model AI yang dikembangkan di satu wilayah dapat digunakan oleh masyarakat, perusahaan, maupun institusi di negara lain. Risiko keamanan, penyalahgunaan, dan dampaknya terhadap ekonomi juga dapat menyebar melewati batas geografis.
Karena itu, mekanisme pengawasan AI membutuhkan koordinasi internasional yang lebih kuat. Standar keselamatan seharusnya tidak hanya menjadi rekomendasi sukarela, tetapi memiliki mekanisme yang jelas mengenai pengujian, pelaporan, dan kepatuhan.
Gagasan International AI Agency
Di tengah kritik terhadap forum yang dianggap terlalu berorientasi pada diskusi, muncul gagasan pembentukan International AI Agency atau Badan AI Internasional.
Demis Hassabis mengusulkan lembaga independen yang dapat mempertemukan pemerintah, laboratorium AI frontier, dan masyarakat sipil. Model tersebut diarahkan untuk membangun standar keselamatan serta guardrails global yang dapat diterapkan secara lebih konsisten.
Gagasan ini pada dasarnya mencoba mengisi celah antara inovasi teknologi dan kapasitas regulasi pemerintah. Lembaga internasional semacam itu dapat berfungsi sebagai ruang koordinasi sekaligus institusi teknis yang berfokus pada keselamatan AI.
Bukan Sekadar Membuat Aturan
Tantangan terbesar bukan hanya menyusun regulasi, tetapi memastikan regulasi tersebut dapat dijalankan.
Badan AI internasional idealnya memiliki kapasitas teknis untuk mengevaluasi sistem AI berkemampuan tinggi, mengembangkan standar pengujian keselamatan, serta memfasilitasi pertukaran informasi mengenai risiko. Independensi juga menjadi faktor penting agar lembaga tersebut tidak terlalu dipengaruhi kepentingan pemerintah atau perusahaan tertentu.
Namun, pembentukan lembaga baru bukan perkara sederhana. Negara-negara memiliki kepentingan ekonomi, keamanan nasional, dan strategi teknologi yang berbeda. Laboratorium AI juga beroperasi dalam lingkungan persaingan yang sangat ketat.
Karena itu, desain kelembagaan harus mampu menemukan keseimbangan antara inovasi, keamanan, kedaulatan negara, dan kepentingan publik.
Masa Depan Regulasi AI Global
Perdebatan mengenai KTT AI Global menunjukkan bahwa tata kelola kecerdasan buatan sedang memasuki tahap baru. Dunia tidak lagi hanya membutuhkan ruang untuk membicarakan risiko AI, tetapi membutuhkan mekanisme yang mampu menerjemahkan kesepakatan menjadi tindakan.
Kritik terhadap KTT India dan keterbatasan PBB bukan berarti diplomasi internasional tidak penting. Sebaliknya, kritik tersebut menunjukkan bahwa diplomasi AI perlu berkembang dari sekadar forum konsultasi menuju institusi yang memiliki fungsi teknis, standar yang jelas, dan mekanisme implementasi.
Bagi Indonesia, perkembangan ini juga relevan. Sebagai negara dengan jumlah pengguna teknologi digital yang besar dan ekosistem AI yang terus berkembang, Indonesia perlu mengikuti perdebatan tata kelola AI global sekaligus memperkuat kapasitas nasional dalam memahami standar keselamatan dan etika AI.
Kesimpulan
Evaluasi terhadap KTT AI Global memperlihatkan satu persoalan mendasar: dunia memiliki semakin banyak forum untuk membicarakan AI, tetapi belum tentu memiliki cukup banyak mekanisme untuk memastikan keputusan tersebut dijalankan.
Kritik Dame Wendy Hall terhadap KTT AI di India dan pandangannya mengenai keterbatasan PBB memperkuat kebutuhan akan pendekatan baru. Sementara itu, gagasan Demis Hassabis mengenai International AI Agency menawarkan salah satu model yang dapat diperdebatkan lebih lanjut.
Jika AI terus berkembang menuju sistem yang semakin kuat, tata kelolanya juga harus berkembang dengan kecepatan yang sebanding. Masa depan regulasi AI global kemungkinan tidak hanya ditentukan oleh seberapa banyak negara yang hadir dalam sebuah konferensi, tetapi oleh seberapa kuat institusi internasional mampu mengubah kesepakatan menjadi standar keselamatan yang benar-benar bekerja.
FAQ
- Mengapa KTT AI Global mendapat kritik? Kritik muncul karena forum besar seperti KTT AI di India dinilai belum menghasilkan keluaran konkret meskipun dihadiri sekitar 250.000 peserta.
- Apa yang dimaksud dengan talking shop dalam diplomasi AI? Talking shop merujuk pada forum yang banyak menghasilkan diskusi dan pertukaran pandangan, tetapi minim keputusan konkret serta mekanisme implementasi.
- Mengapa PBB dinilai memiliki keterbatasan dalam mengatur AGI? PBB memiliki legitimasi internasional yang luas, tetapi dinilai belum mempunyai kewenangan dan kemampuan eksekusi yang memadai untuk menangani tantangan AGI.
- Apa itu International AI Agency? International AI Agency merupakan gagasan pembentukan lembaga AI internasional independen yang melibatkan pemerintah, laboratorium AI frontier, dan masyarakat sipil untuk menetapkan standar keselamatan serta guardrails global.
- Mengapa regulasi AI membutuhkan kerja sama internasional? AI dapat dikembangkan di satu negara dan digunakan di negara lain, sehingga risiko keamanan, ekonomi, dan sosialnya dapat melampaui batas nasional.
