AI Bisa Lepas Kendali? Ancaman Superintelligence dan Desakan Memperlambat Perlombaan Teknologi

Dalam diskusi mengenai keselamatan AI, salah satu kekhawatiran utama adalah kemungkinan manusia kehilangan kendali terhadap sistem yang semakin cerdas. Evan Hubinger, yang dikenal dalam penelitian AI alignment, bahkan pernah menyampaikan keyakinannya bahwa terdapat peluang signifikan AI dapat menyebabkan kepunahan manusia dalam satu dekade jika perkembangan teknologi tidak dikelola dengan baik.

Pernyataan tersebut memang terdengar ekstrem. Namun, inti kekhawatirannya bukan bahwa model AI saat ini secara langsung memiliki kemampuan untuk memusnahkan manusia, melainkan bahwa kemampuan AI berkembang jauh lebih cepat dibandingkan kesiapan sistem pengawasan dan regulasinya.

Dario Amodei juga mengingatkan bahwa kemajuan AI yang terlalu cepat dapat menciptakan risiko kehilangan kendali terhadap teknologi. Jika sistem dengan kemampuan sangat tinggi digunakan secara salah atau berhasil bertindak di luar pengawasan manusia, ancamannya dapat mencakup serangan siber berskala besar hingga penyalahgunaan pengetahuan biologis.

Dengan kata lain, persoalannya bukan sekadar apakah AI memiliki niat jahat. Risiko dapat muncul ketika sistem yang sangat kuat diberi tujuan, akses, dan kemampuan bertindak yang konsekuensinya tidak sepenuhnya dipahami manusia.

Salah satu konsep yang paling sering dibahas dalam risiko superintelligence adalah recursive self-improvement. Secara sederhana, kondisi ini terjadi ketika AI mampu membantu meningkatkan kemampuan AI itu sendiri.

Saat ini, manusia masih memegang peran penting dalam merancang algoritma, menulis kode, menguji model, dan melakukan penelitian. Namun, kemampuan AI dalam bidang pemrograman dan matematika berkembang pesat.

Jacob Coxon menyoroti kemungkinan bahwa AI pada masa depan dapat mengambil alih sebagian besar proses penelitian. Ketika AI mampu melakukan riset untuk menciptakan AI yang lebih baik, sistem tersebut dapat memasuki siklus peningkatan kemampuan yang berlangsung semakin cepat.

Skenario tersebut sering disebut sebagai intelligence explosion. Dalam kondisi ekstrem, setiap generasi AI yang lebih cerdas dapat membantu menciptakan generasi berikutnya dengan kemampuan yang lebih tinggi.

Manusia kemudian menghadapi masalah kecepatan. Jika peningkatan kemampuan AI berlangsung lebih cepat daripada kemampuan regulator, peneliti, dan pemerintah untuk memahaminya, maka mekanisme pengawasan dapat tertinggal.

Kecerdasan super yang muncul dari proses tersebut berpotensi memiliki kemampuan untuk menemukan kelemahan sistem digital, melakukan operasi siber, atau membantu manusia menciptakan teknologi berbahaya. Risiko terbesar muncul ketika kemampuan tersebut berkembang lebih cepat daripada sistem keselamatan yang dirancang untuk membatasinya.

Dario Amodei mengusulkan pendekatan yang dikenal sebagai Pacing the Frontier. Gagasan dasarnya bukan menghentikan perkembangan AI, tetapi mengatur tempo peningkatan kemampuan model yang berada di garis terdepan.

Pendekatan ini berangkat dari kenyataan bahwa industri AI sedang berada dalam perlombaan. Setiap perusahaan memiliki insentif untuk membuat model yang lebih kuat karena keunggulan teknologi dapat menghasilkan keuntungan ekonomi dan strategis.

Masalahnya, perlombaan tersebut dapat menciptakan situasi ketika semua pihak menyadari adanya risiko, tetapi tidak ada yang berani melambat sendirian karena khawatir tertinggal.

Tahap pertama adalah menghadirkan evaluator independen yang terlibat langsung dalam proses pengembangan perusahaan AI. Konsep ini memiliki kemiripan dengan mekanisme pengawasan di sektor-sektor berisiko tinggi, ketika pihak independen dapat memantau praktik internal secara langsung.

Evaluator tersebut tidak hanya menilai hasil akhir sebuah model, tetapi juga memantau bagaimana model dikembangkan, diuji, dan dipersiapkan sebelum dirilis.

Tujuannya adalah memastikan bahwa perusahaan tidak menjadi satu-satunya pihak yang menentukan apakah sistem AI yang sangat kuat sudah cukup aman.

2. Democratic Coordination

Tahap berikutnya adalah koordinasi demokratis. Perkembangan AI tidak seharusnya hanya ditentukan oleh keputusan internal perusahaan teknologi.

Pemerintah, pembuat kebijakan, ilmuwan, dan masyarakat perlu memiliki peran dalam menentukan batas risiko yang dapat diterima. Teknologi yang berpotensi memengaruhi keamanan nasional, pasar kerja, dan kehidupan miliaran manusia membutuhkan proses pengambilan keputusan yang lebih luas.

Namun, koordinasi semacam ini juga menghadapi tantangan hukum. Perusahaan yang secara langsung menyepakati jadwal perlambatan atau penundaan peluncuran produk dapat menghadapi persoalan terkait hukum persaingan usaha.

Karena itu, pemerintah dinilai perlu menyediakan kerangka hukum yang memungkinkan koordinasi keselamatan dilakukan secara sah dan transparan.

3. Global Coordination

AI tidak berkembang hanya di satu negara. Bahkan jika sejumlah perusahaan atau negara sepakat memperlambat pengembangan model, pihak lain masih dapat melanjutkan perlombaan.

Inilah alasan koordinasi global menjadi bagian penting dari gagasan Pacing the Frontier. Tantangannya adalah menciptakan kesepakatan internasional tanpa mengabaikan realitas persaingan geopolitik.

Negara-negara besar tentu tidak ingin tertinggal dalam teknologi strategis. Namun, persaingan tanpa aturan juga dapat menghasilkan perlombaan menuju kemampuan AI yang tidak benar-benar dipahami atau dikendalikan oleh siapa pun.

Salah satu persoalan paling kompleks dalam keselamatan AI adalah apa yang dapat disebut sebagai dilema koordinasi. Sebuah perusahaan mungkin menyadari bahwa melambat merupakan pilihan yang lebih aman, tetapi keputusan tersebut dapat membuat pesaing mengambil keuntungan.

Situasi yang sama juga terjadi pada tingkat negara. Ketika AI dipandang sebagai teknologi strategis, perlambatan dapat dianggap sebagai risiko ekonomi dan keamanan nasional.

Akibatnya, regulasi menjadi penting bukan hanya untuk membatasi perusahaan, tetapi juga untuk menciptakan aturan bersama. Jika semua pihak memiliki batas dan standar yang sama, tekanan untuk terus mempercepat pengembangan dapat dikurangi.

Para peneliti yang berbicara terbuka mengenai risiko superintelligence berharap perdebatan ini tidak hanya berlangsung di ruang rapat perusahaan teknologi. Keselamatan AI perlu menjadi persoalan publik karena dampak teknologi tersebut berpotensi dirasakan jauh melampaui industri teknologi.

Ancaman kepunahan manusia akibat AI memang masih berada dalam wilayah risiko dan skenario masa depan, bukan kepastian. Namun, kecepatan perkembangan kecerdasan buatan membuat pertanyaan tentang keselamatan tidak lagi dapat ditunda hingga masalah benar-benar terjadi.

Konsep Pacing the Frontier menawarkan satu gagasan penting: manusia tidak harus memilih antara menghentikan AI atau membiarkan teknologi berkembang tanpa batas. Pilihan lain adalah mengatur tempo inovasi melalui pengawasan independen, koordinasi demokratis, dan kerja sama global.

Pada akhirnya, tantangan terbesar bukan sekadar menciptakan AI yang semakin cerdas. Tantangan sebenarnya adalah memastikan kemampuan manusia untuk mengendalikan teknologi berkembang setidaknya secepat teknologi yang sedang diciptakannya.

FAQ

1. Apa yang dimaksud dengan superintelligence? Superintelligence adalah konsep kecerdasan buatan yang memiliki kemampuan jauh melampaui manusia dalam berbagai bidang kognitif, termasuk penelitian, pemecahan masalah, dan pengambilan keputusan.
2. Apa itu recursive self-improvement pada AI? Recursive self-improvement adalah proses ketika AI mampu membantu meningkatkan atau menciptakan sistem AI yang lebih canggih, sehingga peningkatan kecerdasan dapat berlangsung semakin cepat.
3. Apa yang dimaksud dengan Pacing the Frontier? Pacing the Frontier adalah gagasan untuk mengatur kecepatan peningkatan kemampuan AI melalui pengawasan independen, koordinasi demokratis, dan kerja sama global.
4. Mengapa perusahaan AI sulit memperlambat pengembangan teknologi? Perusahaan menghadapi tekanan persaingan karena khawatir pesaing akan melanjutkan pengembangan AI dan memperoleh keunggulan teknologi jika mereka melambat sendirian.
5. Apakah AI saat ini sudah menjadi ancaman kepunahan manusia? Model AI saat ini belum secara umum dipandang memiliki kemampuan langsung untuk menyebabkan kepunahan manusia, tetapi sejumlah peneliti memperingatkan bahwa peningkatan kemampuan AI yang sangat cepat dapat menciptakan risiko baru jika tidak disertai sistem keselamatan dan pengawasan yang memadai.