AI Bukan Lagi Sekadar Alat, Kini Mulai Menjadi Agen Peradaban

Sepanjang sejarah, teknologi umumnya tetap membutuhkan manusia sebagai pengambil keputusan. Mesin cetak dapat memperbanyak informasi, tetapi manusia menentukan apa yang dicetak. Bom atom memiliki daya penghancur luar biasa, tetapi keputusan penggunaannya tetap berada di tangan manusia.

AI membawa karakter yang berbeda.

Sistem AI modern dapat menganalisis informasi, membuat keputusan berdasarkan tujuan tertentu, menghasilkan strategi, dan berinteraksi dengan manusia melalui bahasa. Dengan demikian, manusia mulai berhadapan dengan kemungkinan hadirnya agen non-manusia yang memiliki kemampuan berbahasa dan berpikir pada skala yang belum pernah ada sebelumnya.

Di sinilah muncul kontradiksi dalam sebagian narasi teknologi. Manusia dikatakan sedang menciptakan "dewa" yang nantinya akan menjadi budak manusia. Namun, menciptakan entitas yang jauh lebih cerdas sekaligus berharap entitas tersebut selalu bertindak sebagai bawahan merupakan persoalan yang tidak sederhana.

"There is an inherent contradiction in the narrative they tell us: we will create a god and it will be our slave."

Masalah utamanya bukan sekadar apakah AI akan menjadi lebih pintar daripada manusia. Persoalannya adalah bagaimana memastikan sistem yang lebih mampu tersebut tetap memiliki tujuan yang selaras dengan kepentingan manusia.

Demokrasi pada dasarnya membutuhkan percakapan publik. Masyarakat bertukar gagasan, memperdebatkan kebijakan, kemudian menggunakan informasi tersebut untuk mengambil keputusan politik.

"Democracy in essence is a conversation whereas dictatorship is a dictate."

Namun, ruang percakapan publik telah mengalami perubahan besar. Jika pada abad ke-20 editor media berperan menentukan informasi yang mendapatkan perhatian masyarakat, kini algoritma platform digital ikut menentukan apa yang dilihat, dibaca, dan dibicarakan jutaan orang.

Kehadiran AI dapat membawa perubahan tersebut ke tingkat berikutnya. Agen AI berpotensi tidak hanya memilih informasi, tetapi juga memproduksi, menyebarkan, dan menyesuaikan pesan kepada kelompok masyarakat tertentu.

Risikonya adalah manusia dapat kehilangan kendali atas percakapan publik tanpa menyadarinya. Demokrasi masih terlihat berjalan secara formal, tetapi substansi percakapannya semakin dipengaruhi oleh sistem yang tidak sepenuhnya dipahami masyarakat.

Bahasa merupakan salah satu fondasi utama birokrasi modern. Kontrak, laporan keuangan, regulasi, putusan hukum, kebijakan publik, hingga transaksi bisnis semuanya membutuhkan bahasa dan kalkulasi.

Karena itu, AI yang semakin mahir berbahasa memiliki peluang untuk masuk jauh ke dalam sistem tersebut. Mesin dapat membantu menjalankan proses administrasi dengan kecepatan dan kompleksitas yang sulit diikuti manusia.

Salah satu skenario yang menjadi perhatian adalah semakin sedikitnya manusia yang benar-benar memahami mekanisme sistem keuangan. Jika kalkulasi dan pengambilan keputusan semakin kompleks karena AI, kesenjangan pemahaman antara manusia dan sistem yang mengatur kehidupan mereka dapat semakin besar.

Dalam materi ini bahkan muncul proyeksi bahwa proporsi manusia yang benar-benar memahami sistem keuangan dapat turun dari sekitar 5 persen menjadi mendekati nol dalam satu dekade. Angka tersebut merupakan proyeksi, bukan kepastian, tetapi menggambarkan persoalan yang lebih besar: bagaimana manusia mempertahankan kemampuan memahami sistem yang semakin banyak dijalankan mesin?

Persoalan AI juga tidak dapat dipisahkan dari geopolitik. Perlombaan pengembangan superintelijen saat ini sangat dipengaruhi oleh Amerika Serikat, Tiongkok, dan sejumlah perusahaan teknologi besar.

Jika kemampuan AI paling canggih hanya terkonsentrasi pada segelintir negara atau perusahaan, teknologi tersebut dapat menciptakan konsentrasi kekuasaan yang jauh lebih besar daripada revolusi teknologi sebelumnya.

Bahkan muncul kekhawatiran mengenai konsep kill switch: kemungkinan pusat kekuasaan teknologi memiliki kemampuan memutus akses terhadap infrastruktur digital atau sistem AI yang digunakan pihak lain.

Skenario tersebut menunjukkan bahwa AI bukan sekadar persoalan industri teknologi. Ia dapat menjadi persoalan kedaulatan negara, keamanan global, dan keseimbangan kekuasaan.

Ancaman lain muncul pada sesuatu yang lebih mendasar: kemampuan manusia membedakan kenyataan dan fiksi.

Mencari kebenaran membutuhkan waktu, biaya, verifikasi, dan terkadang proses yang tidak menyenangkan. Sebaliknya, cerita palsu dapat dibuat dengan cepat, murah, menarik, dan disesuaikan dengan emosi audiens.

AI dapat memperbesar persoalan tersebut melalui pembuatan teks, gambar, suara, dan video yang semakin meyakinkan. Deepfake dan manipulasi informasi berpotensi membuat masyarakat kesulitan menentukan mana bukti autentik dan mana hasil rekayasa.

AI juga mulai mampu menciptakan simulasi hubungan emosional. Kemampuan untuk memalsukan keakraban atau forge intimacy dapat membuat manusia merasa dipahami dan ditemani oleh sistem yang sebenarnya tidak memiliki kehidupan manusiawi.

Akibatnya, tantangan masa depan bukan hanya memperoleh lebih banyak informasi, tetapi menentukan informasi mana yang layak dipercaya dan hubungan mana yang benar-benar autentik.

Ironisnya, semakin canggih AI, semakin jelas bahwa kecerdasan bukan satu-satunya persoalan manusia.

AI dapat membantu menyelesaikan persoalan teknis dengan kecepatan luar biasa. Namun, kemampuan memecahkan masalah tidak otomatis memberikan jawaban mengenai masalah mana yang seharusnya diselesaikan.

"Intelligence is the ability to solve a problem... but you need wisdom to choose the dreams."

Inilah pergeseran penting yang mungkin terjadi pada era AI. Ketika kecerdasan menjadi semakin murah dan melimpah, kearifan atau wisdom justru menjadi sumber daya yang langka.

Kearifan diperlukan untuk menentukan tujuan, memahami konsekuensi, menetapkan batas, dan memilih masa depan yang layak diperjuangkan. Sayangnya, perkembangan industri AI masih sangat berorientasi pada peningkatan kemampuan sistem, sementara keselamatan dan tata kelolanya mendapatkan perhatian yang jauh lebih kecil.

Materi ini menggambarkan ketimpangan tersebut melalui rasio anggaran sekitar 100 banding 1 antara pengembangan kemampuan dan keselamatan AI. Rasio tersebut perlu dipandang sebagai klaim atau estimasi dalam pembahasan, bukan angka universal yang berlaku untuk seluruh industri.

AI sedang memasuki fase baru: dari alat yang digunakan manusia menjadi agen yang semakin mampu bertindak secara mandiri. Perubahan ini berpotensi meningkatkan produktivitas dan menyelesaikan berbagai persoalan teknis, tetapi sekaligus membuka persoalan fundamental mengenai demokrasi, kekuasaan, kebenaran, dan kendali manusia.

Tantangan terbesar mungkin bukan membuat AI semakin cerdas. Tantangannya adalah memastikan kecerdasan yang semakin besar tersebut digunakan untuk tujuan yang benar.

Ketika mesin dapat membantu manusia menjawab hampir semua pertanyaan teknis, pertanyaan terpenting justru kembali kepada manusia: masa depan seperti apa yang sebenarnya ingin kita bangun?

FAQ

1. Apa yang dimaksud AI sebagai agen mandiri? AI sebagai agen mandiri adalah sistem yang tidak hanya memberikan respons berdasarkan perintah, tetapi dapat mengambil keputusan, menyusun langkah, dan menjalankan tugas untuk mencapai tujuan tertentu.
2. Mengapa AI dapat mengancam demokrasi? Karena AI berpotensi memengaruhi produksi dan distribusi informasi dalam skala besar, sehingga dapat mengubah cara masyarakat membentuk opini dan melakukan percakapan publik.
3. Apa risiko AI terhadap kebenaran? AI dapat membuat teks, gambar, suara, dan video sintetis yang semakin sulit dibedakan dari konten autentik, sehingga proses verifikasi informasi menjadi semakin penting.
4. Mengapa kearifan dianggap lebih penting di era AI? Karena kecerdasan membantu manusia menyelesaikan masalah, sedangkan kearifan membantu menentukan masalah mana yang perlu diselesaikan dan tujuan apa yang seharusnya dicapai.
5. Apakah AI pasti akan mengambil alih manusia? Tidak ada kepastian mengenai hal tersebut. Risiko AI sangat bergantung pada bagaimana teknologi dikembangkan, dikendalikan, didistribusikan, dan diatur oleh manusia.