Menuju AGI 2030: Risiko Besar dan Urgensi Badan Tata Kelola Global

Kemampuan AI yang semakin serbaguna dapat menghasilkan manfaat besar bagi penelitian ilmiah, kesehatan, pendidikan, dan produktivitas. Pada saat yang sama, kemampuan yang sama dapat disalahgunakan oleh pihak yang memiliki tujuan berbahaya.

Salah satu perhatian utama adalah pemanfaatan AI untuk meningkatkan kemampuan serangan siber atau membantu aktivitas berisiko di bidang biologi. Perkembangan AI generatif dan sistem yang mampu menjalankan tugas secara lebih mandiri membuat batas antara perangkat bantu dan agen yang dapat melakukan tindakan semakin penting untuk diawasi.

Laporan dan analisis terbaru mengenai keamanan AI juga menempatkan penyalahgunaan untuk serangan siber dan pengembangan patogen berbahaya sebagai bagian dari risiko global yang perlu diperhitungkan.

Persoalan lain muncul ketika sistem AI tidak sekadar memberikan jawaban, tetapi mampu merencanakan dan menjalankan rangkaian tindakan secara mandiri. Semakin besar tingkat otonomi, semakin penting pula mekanisme untuk memastikan manusia tetap memiliki kendali.

Dame Wendy Hall mengingatkan kembali kekhawatiran yang pernah disampaikan Stephen Hawking mengenai perkembangan kecerdasan mesin. Inti persoalannya bukan sekadar apakah mesin menjadi pintar, tetapi bagaimana manusia mempertahankan kemampuan untuk mengendalikan sistem yang jauh lebih kompleks.

Karena itu, pembicaraan mengenai AGI tidak cukup berhenti pada pertanyaan tentang kapan teknologi tersebut tercapai. Pertanyaan yang sama pentingnya adalah bagaimana memastikan kemampuan tersebut tidak berkembang lebih cepat daripada sistem pengamanannya.

Perkembangan AI berlangsung lintas batas negara. Model yang dikembangkan di satu negara dapat digunakan oleh masyarakat di negara lain dalam hitungan detik. Kondisi tersebut membuat pendekatan regulasi yang hanya mengandalkan aturan nasional memiliki keterbatasan.

Hassabis kemudian mendorong gagasan mengenai lembaga pengawasan AI internasional yang dapat berfungsi secara independen. Gagasan tersebut memiliki kemiripan dengan model lembaga internasional yang mengawasi teknologi berisiko tinggi, dengan melibatkan pemerintah, perusahaan teknologi, peneliti, serta masyarakat sipil.

Pada 2026, Hassabis juga mendorong pembentukan badan pengawas global yang memiliki kemampuan melakukan penilaian terhadap model AI paling maju dan mengoordinasikan langkah keselamatan apabila risiko meningkat.

Masalah utama tata kelola AI adalah kecepatan inovasi. Teknologi dapat berkembang dalam hitungan bulan, sementara proses pembentukan regulasi dan kesepakatan internasional dapat membutuhkan waktu jauh lebih lama.

Pemerintah Inggris, misalnya, telah menggunakan berbagai skenario AI hingga 2030 untuk membantu pembuat kebijakan mengantisipasi dampak teknologi terhadap keamanan, geopolitik, ekonomi, dan masyarakat. Pendekatan berbasis skenario tersebut menunjukkan bahwa pemerintah mulai mempersiapkan berbagai kemungkinan masa depan, bukan hanya satu prediksi.

Badan global tidak harus mengambil alih seluruh kewenangan negara. Fungsi pentingnya dapat diarahkan pada penetapan standar keselamatan, pengujian model berisiko tinggi, pertukaran informasi, evaluasi independen, serta koordinasi ketika sebuah sistem AI berpotensi menimbulkan dampak lintas negara.

Tata kelola global tidak berarti harus memusuhi inovasi. Justru, keberadaan standar keselamatan yang jelas dapat memberikan kepastian bagi perusahaan teknologi dalam mengembangkan AI secara bertanggung jawab.

Hassabis menilai para pemimpin laboratorium AI pada dasarnya memiliki kepentingan yang sama untuk mencegah terjadinya bencana akibat teknologi. Karena itu, guardrails atau pembatas keselamatan menjadi elemen penting dalam pengembangan AI generasi berikutnya.

Perdebatan terbaru di industri juga menunjukkan meningkatnya perhatian terhadap evaluasi independen dan pengawasan terhadap sistem AI frontier. Sejumlah pemimpin industri menyerukan langkah keselamatan yang lebih kuat di tengah percepatan kemampuan AI.

Prediksi AGI sekitar 2030 belum dapat dianggap sebagai kepastian. Namun, kemungkinan munculnya sistem dengan kemampuan kognitif yang semakin mendekati manusia membuat isu keamanan tidak dapat ditunda hingga teknologi tersebut benar-benar hadir.

Tantangan terbesar bukan hanya menciptakan AI yang semakin cerdas, tetapi membangun mekanisme agar kecerdasan tersebut tetap berada dalam batas yang aman. Jika AGI benar-benar berkembang dalam beberapa tahun mendatang, dunia membutuhkan kerja sama internasional, standar pengujian yang kuat, pengawasan independen, dan guardrails yang mampu mengikuti perkembangan teknologi.

Bagi masyarakat, pembahasan mengenai AGI 2030 pada akhirnya bukan sekadar tentang masa depan mesin. Ini adalah pembahasan tentang bagaimana manusia menentukan aturan bagi teknologi yang berpotensi mengubah arah ekonomi, ilmu pengetahuan, keamanan, dan kehidupan sosial dalam skala global.

FAQ

1. Apa itu AGI? AGI adalah konsep AI yang memiliki kemampuan kognitif umum sehingga dapat menangani beragam tugas intelektual, bukan hanya satu bidang tertentu.
2. Kapan AGI diperkirakan muncul? Demis Hassabis memperkirakan peluang sekitar 50 persen bahwa AGI dapat terwujud sekitar 2030, meskipun definisi dan waktunya masih menjadi perdebatan.
3. Apa risiko terbesar AGI? Risiko mencakup penyalahgunaan untuk serangan siber, biorisiko, peningkatan kemampuan sistem otonom, serta kemungkinan manusia kehilangan kendali terhadap sistem yang sangat canggih.
4. Mengapa diperlukan badan tata kelola AI global? Karena AI berkembang dan digunakan lintas negara sehingga sebagian risikonya tidak dapat ditangani secara efektif hanya melalui regulasi nasional.
5. Apa fungsi International AI Agency? Gagasannya adalah menyediakan mekanisme independen untuk menetapkan standar keselamatan, mengevaluasi sistem AI berisiko tinggi, dan mengoordinasikan respons internasional terhadap risiko AI.