AI Diprediksi Lampaui Kecerdasan Manusia dalam 5 Tahun, Apa yang Terjadi Setelahnya?

Salah satu gagasan paling penting dalam diskusi ini adalah perbedaan antara AI yang sekadar membantu manusia dan AI yang memiliki kemampuan intelektual melampaui manusia secara keseluruhan.

Jika AI mampu melakukan hampir seluruh pekerjaan intelektual lebih baik daripada manusia, maka struktur ekonomi, pendidikan, penelitian, hingga pengambilan keputusan dapat mengalami perubahan mendasar.

Pembicara bahkan menggambarkan bahwa mungkin tidak banyak hal yang dapat dilakukan manusia lebih baik daripada AI, kecuali satu hal yang sangat fundamental: menjadi manusia itu sendiri.

“There really won't be anything that AI can't do better than humans apart from being human perhaps.”

Implikasinya sangat besar. Selama teknologi hanya menjadi alat, manusia masih dapat menentukan bagaimana alat tersebut digunakan. Namun, persoalannya menjadi berbeda ketika alat tersebut memiliki kemampuan untuk meningkatkan dirinya, menemukan solusi baru, dan menjalankan tugas yang sebelumnya hanya dapat dilakukan oleh manusia.

Salah satu kekhawatiran terbesar bukan hanya apakah AI akan menjadi sangat cerdas, tetapi apakah manusia masih mampu mengendalikannya.

Dalam proyeksi sekitar sepuluh tahun, kemungkinan manusia tetap memegang kendali penuh atas perkembangan AI dinilai semakin kecil. Analogi yang digunakan adalah hubungan antara manusia dan simpanse.

Manusia memiliki tingkat kecerdasan yang jauh lebih tinggi dibandingkan simpanse sehingga simpanse tidak memiliki kapasitas untuk menentukan arah perkembangan peradaban manusia. Jika jarak kecerdasan antara AI dan manusia nantinya jauh lebih besar daripada jarak kecerdasan manusia dan simpanse, maka muncul pertanyaan mendasar: mengapa manusia masih dapat mengendalikan entitas yang jauh lebih cerdas?

“If the difference in intelligence between AI and humans is vastly greater than the difference in intelligence between AI and chimpanzees it's hard to imagine that the chimpanzees would be in charge.”

Analogi tersebut menunjukkan bahwa persoalan kendali bukan semata-mata tentang siapa yang memiliki kekuatan fisik terbesar. Kesenjangan kemampuan memahami, merencanakan, dan memecahkan masalah juga dapat menentukan siapa yang memiliki pengaruh terbesar terhadap masa depan.

Menariknya, percepatan AI juga memiliki akar dari upaya menciptakan keseimbangan kekuatan di industri teknologi.

OpenAI pada awalnya didirikan dengan salah satu tujuan untuk menjadi penyeimbang terhadap dominasi Google dalam bidang kecerdasan buatan. Namun, perkembangan berikutnya justru menghasilkan efek domino.

Munculnya Anthropic sebagai perusahaan yang dibentuk oleh sejumlah mantan anggota OpenAI turut memperkuat kompetisi. Persaingan antarpelaku industri kemudian mendorong investasi, penelitian, pengembangan model, dan perlombaan menuju kemampuan AI yang semakin maju.

Situasi ini menciptakan paradoks. Kompetisi dapat mempercepat inovasi dan menghasilkan manfaat besar bagi masyarakat, tetapi pada saat yang sama juga dapat mempercepat munculnya teknologi yang risikonya belum sepenuhnya dipahami.

Kecepatan perkembangan AI menimbulkan tantangan besar bagi regulator. Proses penyusunan aturan dapat memerlukan waktu berbulan-bulan, sedangkan perkembangan teknologi dapat berubah secara signifikan hanya dalam hitungan minggu.

Jangka waktu enam bulan bahkan dinilai terlalu lama jika dibandingkan dengan kecepatan perubahan teknologi AI saat ini.

Masalah lainnya adalah kesenjangan pengetahuan. Pemerintah memiliki kewenangan untuk membuat regulasi, tetapi tidak selalu memiliki pemahaman teknis sedalam perusahaan dan peneliti yang berada di garis depan pengembangan AI.

Karena itu, pengawasan tidak cukup hanya mengandalkan regulator. Diperlukan mekanisme pengawasan tambahan dari pihak yang memahami teknologi tersebut secara langsung.

Salah satu solusi yang ditawarkan adalah membangun sistem self-regulation antarkompetitor AI.

Perusahaan-perusahaan yang berada di garis depan pengembangan teknologi dapat bertemu secara rutin untuk membahas risiko dan perkembangan terbaru. Lebih jauh, mereka dapat memberikan akses awal terhadap model baru kepada kompetitor sekitar satu atau dua minggu sebelum peluncuran publik.

Tujuannya bukan memberikan keuntungan bisnis kepada pesaing, melainkan memungkinkan pihak lain yang memahami keamanan AI untuk menguji sistem tersebut dan menemukan potensi risiko.

Model seperti ini dapat menciptakan lapisan pengawasan tambahan. Sebelum sebuah teknologi digunakan oleh jutaan orang, perusahaan lain memiliki kesempatan untuk mengajukan pertanyaan kritis mengenai keamanan, penyalahgunaan, maupun konsekuensi yang mungkin belum disadari pembuatnya.

Tantangan terbesar mungkin bukan hanya persoalan teknis. Hubungan antar pemimpin perusahaan teknologi juga dipenuhi kompetisi, perbedaan kepentingan, dan konflik personal.

Salah satu sumber ketegangan adalah perubahan OpenAI dari organisasi yang awalnya berorientasi nirlaba dan terbuka menjadi perusahaan komersial yang lebih tertutup. Perubahan tersebut menunjukkan bagaimana visi awal sebuah organisasi dapat berkembang ketika berhadapan dengan kebutuhan modal, persaingan, dan peluang bisnis.

Namun, ketika teknologi memiliki potensi memengaruhi masa depan seluruh umat manusia, konflik personal seharusnya tidak menjadi penghalang komunikasi.

Keselamatan AI membutuhkan kerja sama bahkan di antara pihak-pihak yang saling bersaing. Mereka tidak harus sepakat dalam segala hal, tetapi perlu memiliki ruang untuk saling memperingatkan ketika risiko yang dihadapi sudah melampaui kepentingan masing-masing perusahaan.

Optimisme terhadap era kelimpahan juga harus diimbangi dengan kesadaran terhadap risiko. Salah satu estimasi dalam diskusi tersebut menempatkan peluang skenario robot pembunuh yang dapat memusnahkan manusia pada kisaran 10 hingga 20 persen.

Angka tersebut bukan kepastian bahwa skenario tersebut akan terjadi. Namun, bahkan peluang yang relatif kecil dapat menjadi sangat penting apabila konsekuensinya adalah kepunahan manusia.

Karena itu, pertanyaan mengenai masa depan AI tidak cukup dijawab dengan “seberapa cepat AI menjadi pintar?”. Pertanyaan yang sama pentingnya adalah bagaimana manusia memastikan teknologi tersebut berkembang dengan mekanisme keselamatan yang memadai.

Jika kecerdasan buatan benar-benar membawa manusia menuju era kelimpahan, tantangannya adalah memastikan manfaat tersebut dapat diwujudkan tanpa kehilangan kendali atas arah perkembangan teknologi.

AI berpotensi membawa perubahan yang jauh lebih besar daripada sekadar otomatisasi pekerjaan. Dalam proyeksi sekitar lima tahun, kemampuan AI bahkan diperkirakan dapat melampaui akumulasi kecerdasan manusia, membuka kemungkinan lahirnya era kelimpahan materi yang sebelumnya sulit dibayangkan.

Namun, kemajuan tersebut juga membawa paradoks. Semakin cepat AI berkembang, semakin sulit manusia memastikan bahwa sistem tersebut tetap berada dalam kendali manusia. Dalam satu dekade, kesenjangan kecerdasan yang sangat besar dapat menciptakan persoalan baru yang belum pernah dihadapi peradaban.

Karena itu, persaingan industri AI perlu berjalan berdampingan dengan mekanisme keselamatan. Kompetitor tidak cukup hanya berlomba menjadi yang tercepat, tetapi juga harus bersedia saling mengawasi, berbagi peringatan, dan mengesampingkan ego ketika keselamatan manusia dipertaruhkan.

Pada akhirnya, masa depan AI bukan hanya tentang seberapa cerdas mesin dapat menjadi. Masa depan tersebut juga ditentukan oleh seberapa bijak manusia mengelola perjalanan menuju kecerdasan yang semakin sulit untuk dibatasi.

FAQ

1. Kapan AI diprediksi melampaui akumulasi kecerdasan manusia? AI diproyeksikan dapat melampaui akumulasi kecerdasan manusia dalam sekitar lima tahun.
2. Apa yang dimaksud dengan era amazing abundance? Era amazing abundance merupakan gambaran masa depan ketika AI dan teknologi memungkinkan manusia memperoleh atau menciptakan hampir segala sesuatu yang dapat mereka bayangkan.
3. Mengapa manusia berpotensi kehilangan kendali atas AI? Jika AI memiliki kecerdasan yang jauh melampaui manusia, kesenjangan kemampuan tersebut dapat membuat manusia semakin sulit memahami, memprediksi, atau mengendalikan perkembangannya.
4. Mengapa perusahaan AI perlu saling mengawasi? Kompetitor memiliki keahlian teknis yang dapat membantu menemukan risiko keamanan pada model AI sebelum teknologi tersebut dirilis secara luas.
5. Apakah era kelimpahan AI pasti akan terjadi? Tidak. Era tersebut merupakan sebuah proyeksi yang bergantung pada perkembangan teknologi dan tidak terhambat oleh berbagai risiko besar yang dapat mengubah arah peradaban.