AI 2040 Plan A: Strategi Menunda Superintelijen demi Menyelamatkan Manusia

Dalam skenario percepatan ekstrem, AI dapat membantu melakukan riset AI itu sendiri. Ketika sistem mampu meningkatkan algoritma, membuat eksperimen, dan menghasilkan versi AI yang lebih baik secara otomatis, siklus tersebut berpotensi menciptakan percepatan yang sangat sulit diprediksi.

Plan A berusaha memutus kemungkinan terjadinya perlombaan semacam itu. AI tetap dikembangkan, tetapi otomatisasi penuh terhadap riset AI yang berpotensi memicu peningkatan kemampuan secara rekursif dibatasi.

Penundaan sekitar satu dekade dianggap dapat memberikan waktu bagi ilmuwan untuk menjawab pertanyaan yang hingga kini belum memiliki solusi pasti: bagaimana membuat sistem yang jauh lebih cerdas daripada manusia tetap memiliki tujuan yang selaras dengan nilai manusia?

Seperti prinsip yang dikutip dalam diskusi tersebut, “Plans are useless, but planning is indispensable.” Rencana mungkin tidak pernah berjalan persis seperti prediksi, tetapi proses merencanakan tetap diperlukan untuk menghadapi risiko yang belum pasti.

Plan A dibangun berdasarkan lima risiko utama yang dapat muncul dari perkembangan AI tanpa koordinasi global.

Pertama adalah penyalahgunaan AI, termasuk kemungkinan teknologi digunakan oleh kelompok teroris atau pihak lain untuk menciptakan ancaman baru.

Kedua adalah hilangnya lapangan kerja secara massal. Jika AI mampu mengotomatisasi semakin banyak pekerjaan, struktur pasar tenaga kerja dapat berubah secara drastis.

Ketiga adalah risiko konflik geopolitik, terutama ketika negara-negara besar berlomba mendapatkan keunggulan AI. Persaingan tersebut dapat meningkatkan ketegangan dan menciptakan dinamika yang menyerupai Thucydides trap.

Keempat adalah konsentrasi kekuasaan. Jika kemampuan komputasi dan AI paling canggih hanya dikuasai segelintir perusahaan atau negara, kekuatan ekonomi dan politik dapat terkonsentrasi pada kelompok yang sangat kecil.

Kelima, sekaligus yang paling kritis menurut skenario tersebut, adalah hilangnya kendali manusia terhadap sistem AI yang jauh lebih cerdas.

Salah satu proposal paling ambisius Plan A adalah total research transparency. Pusat data yang digunakan untuk melatih AI mutakhir diharapkan memiliki sistem pencatatan aktivitas yang dapat diawasi dan diverifikasi.

Tujuannya bukan sekadar membuka informasi kepada publik. Transparansi juga berfungsi sebagai mekanisme pengawasan untuk mengetahui apakah sebuah negara atau perusahaan menjalankan proyek yang melampaui batas yang telah disepakati.

Kebutuhan tersebut menjadi semakin relevan karena sebagian besar komputasi AI terkonsentrasi pada pusat data berskala besar. Dalam skenario yang dibahas, sekitar 99 persen komputasi yang relevan bagi kemajuan AI berada di pusat data besar, sementara hanya sekitar 1 persen berada pada perangkat pribadi dan komputer kecil.

Konsentrasi ini membuat pengawasan terhadap infrastruktur komputasi menjadi salah satu titik penting dalam tata kelola AI.

Untuk memastikan perjanjian internasional tidak hanya menjadi dokumen tanpa kekuatan, Plan A mengusulkan mekanisme deterrence yang disebut Mutually Assured Compute Destruction.

Konsepnya memiliki kemiripan dengan logika Mutually Assured Destruction pada era Perang Dingin, tetapi diterapkan pada infrastruktur komputasi.

Dalam skenario tersebut, pusat data baru dapat ditempatkan di negara ketiga atau menggunakan mekanisme verifikasi tertentu. Jika salah satu pihak melanggar kesepakatan dan membangun proyek rahasia, infrastruktur komputasi yang melanggar dapat dikenai tindakan penghancuran atau pemutusan akses berdasarkan mekanisme yang telah disepakati.

Tujuannya adalah menciptakan konsekuensi ekonomi yang cukup besar sehingga negara maupun perusahaan memiliki insentif untuk tetap mematuhi perjanjian tanpa harus langsung berhadapan dalam konflik militer.

Menariknya, Plan A tidak menggambarkan dekade 2030-an sebagai periode stagnasi teknologi. AI tetap dapat melakukan otomatisasi besar-besaran selama kemampuan fundamentalnya dibatasi pada tingkat tertentu.

Dalam skenario tersebut, penggandaan infrastruktur robot dan otomatisasi tugas dapat menghasilkan pertumbuhan PDB hingga 85 persen per tahun. Sementara itu, nilai otomatisasi penuh ekonomi diperkirakan dapat mencapai sekitar $40 triliun per tahun.

Angka tersebut merupakan proyeksi skenario, bukan prediksi ekonomi yang telah terbukti. Namun, angka ini menggambarkan gagasan utama Plan A: membatasi percepatan menuju superintelijen tidak berarti harus menghentikan seluruh manfaat ekonomi dari AI.

Masalah berikutnya adalah distribusi kekayaan. Dalam salah satu skenario Plan A, pada 2036–2037 hanya sekitar 8 persen warga Amerika yang masih bekerja dalam pekerjaan tradisional.

Jika produksi semakin dilakukan AI dan robot, masyarakat tetap membutuhkan daya beli. Salah satu solusi yang ditawarkan adalah citizens dividend, yaitu mekanisme pembagian sebagian manfaat ekonomi dan kapasitas komputasi kepada warga.

Gagasan ini memiliki kemiripan dengan konsep pendapatan dasar, tetapi dirancang dalam konteks ekonomi yang sangat terotomatisasi.

Seberapa Realistis Plan A?

Plan A sendiri bukan solusi yang pasti berhasil. Bahkan, skenario yang dibahas memperkirakan peluang implementasi global hanya sekitar 5–20 persen, sementara risiko bencana tetap diperkirakan belum sepenuhnya hilang.

Ada pula pertanyaan besar mengenai kelayakan verifikasi, kedaulatan negara, keamanan pusat data, serta kesediaan perusahaan dan pemerintah untuk menerima pembatasan ketika pesaing mungkin memilih bergerak lebih cepat.

Tantangan lain adalah koordinasi antara Amerika Serikat dan Tiongkok. Kedua negara memiliki kepentingan strategis besar dalam AI sehingga mencapai kesepakatan yang dapat diverifikasi secara independen bukanlah persoalan sederhana.

Namun, justru ketidakpastian tersebut menjadi alasan mengapa perencanaan jangka panjang diperlukan.

AI 2040 Plan A menawarkan sebuah alternatif terhadap perlombaan menuju superintelijen yang berlangsung tanpa koordinasi. Alih-alih mengejar intelligence explosion secepat mungkin, strategi ini mengusulkan penundaan sekitar 10 tahun untuk memberi manusia kesempatan memperbaiki AI alignment, membangun transparansi, dan menciptakan mekanisme pengawasan internasional.

Plan A juga menunjukkan bahwa keselamatan AI tidak hanya persoalan teknologi. Ia berkaitan dengan ekonomi, geopolitik, distribusi kekuasaan, pekerjaan, dan tata kelola global.

Peluang keberhasilannya sendiri masih sangat tidak pasti. Namun, gagasan utamanya layak diperhatikan: ketika teknologi berkembang lebih cepat daripada kemampuan manusia mengaturnya, kemampuan untuk memperlambat mungkin sama pentingnya dengan kemampuan untuk mempercepat.

FAQ

1. Apa itu AI 2040 Plan A? AI 2040 Plan A adalah proposal kebijakan yang bertujuan memperlambat perkembangan menuju superintelijen sekitar 10 tahun agar manusia memiliki waktu membangun sistem keselamatan dan tata kelola AI.
2. Apakah Plan A ingin menghentikan perkembangan AI? Tidak. Proposal ini membayangkan AI tetap berkembang dan memberikan manfaat ekonomi, tetapi mencegah perlombaan menuju superintelijen yang terlalu cepat dan sulit dikendalikan.
3. Apa risiko AI yang paling dikhawatirkan dalam Plan A? Risiko paling kritis adalah hilangnya kendali manusia terhadap sistem AI yang memiliki kemampuan jauh melampaui manusia.
4. Apa itu Mutually Assured Compute Destruction? Ini adalah gagasan deterrence yang menggunakan ancaman terhadap infrastruktur komputasi sebagai konsekuensi bagi pihak yang melanggar kesepakatan AI internasional.
5. Apakah Plan A pasti dapat diterapkan? Tidak. Skenario yang dibahas sendiri memperkirakan peluang implementasi globalnya hanya sekitar 5–20 persen, sehingga konsep tersebut masih merupakan proposal kebijakan yang sangat spekulatif.