Kampus Times- Perkembangan kecerdasan buatan berlangsung jauh lebih cepat dibandingkan kemampuan masyarakat dan pemerintah dalam memahami dampaknya. Kemampuan AI menghasilkan teks, gambar, suara, video, hingga berinteraksi secara personal membuat teknologi ini mulai memasuki berbagai aspek kehidupan manusia.
Namun, sejarawan dan pemikir Yuval Noah Harari menolak anggapan bahwa pengambilalihan dunia oleh AI merupakan sesuatu yang pasti terjadi. Menurutnya, manusia masih memiliki kendali untuk menentukan arah perkembangan teknologi.
Persoalannya bukan apakah AI akan berkembang, tetapi keputusan apa yang dibuat manusia terhadap teknologi tersebut.
Harari juga mengkritik narasi inevitability atau keniscayaan yang sering muncul dalam diskusi teknologi. Jika perkembangan AI dianggap sebagai sesuatu yang tidak dapat dihentikan, manusia dapat kehilangan rasa tanggung jawab terhadap konsekuensi yang ditimbulkannya.
Dengan kata lain, mengatakan bahwa perkembangan teknologi tidak terhindarkan dapat menjadi cara untuk menghindari pertanyaan moral: siapa yang bertanggung jawab ketika teknologi tersebut menimbulkan kerugian?
Sistem Finansial Bisa Semakin Sulit Dipahami Manusia
Salah satu risiko terbesar muncul dari sektor keuangan. Sistem finansial modern sendiri sudah sangat kompleks dan melibatkan begitu banyak variabel sehingga tidak mudah dipahami secara keseluruhan oleh manusia.
Ketika AI mulai mengambil peran yang lebih besar, kompleksitas tersebut berpotensi meningkat secara drastis. AI dapat merancang instrumen finansial baru yang begitu rumit sehingga manusia tidak lagi memahami sepenuhnya cara kerja maupun konsekuensinya.
Dalam kondisi ekstrem, keputusan finansial penting mungkin semakin banyak ditentukan oleh sistem algoritmik.
Masalahnya muncul ketika terjadi krisis. Jika manusia tidak memahami alasan di balik keputusan AI, pemimpin negara dan regulator dapat berada dalam situasi sulit: mengikuti rekomendasi mesin karena dianggap lebih pintar, atau menolaknya tanpa benar-benar mengetahui konsekuensinya.
Elon Musk bahkan pernah memprediksi bahwa uang fisik dapat menghilang dalam waktu sekitar satu dekade karena AI mengambil peran besar dalam sistem keuangan.
Ia juga pernah mengusulkan pemberian bantuan langsung kepada masyarakat untuk menghadapi kemungkinan pengangguran massal akibat AI. Menurut pandangan tersebut, peningkatan produksi barang dan jasa oleh AI justru dapat menciptakan tekanan deflasi.
Kepercayaan Mulai Berpindah kepada Algoritma
Di balik persoalan finansial terdapat masalah yang lebih mendasar, yaitu kepercayaan.
Harari menilai kepercayaan merupakan salah satu aset terpenting dalam kehidupan manusia, bahkan lebih penting daripada minyak, uang, listrik, atau cip. Sistem ekonomi dan sosial pada dasarnya tidak dapat berjalan tanpa adanya kepercayaan.
Namun, sumber kepercayaan tersebut mulai mengalami perubahan.
Masyarakat semakin sering menyerahkan keputusan kepada algoritma. Sebagian orang lebih percaya pada sistem mata uang kripto daripada bankir manusia, sementara konsumen juga semakin bergantung pada algoritma media sosial untuk menentukan informasi apa yang mereka lihat.
Perubahan ini terlihat sederhana, tetapi memiliki konsekuensi besar.
Ketika manusia semakin percaya kepada algoritma dibandingkan manusia lain, maka pihak yang mengendalikan algoritma memperoleh pengaruh yang jauh lebih besar terhadap perilaku masyarakat.
AI Dapat Memproduksi Keintiman Secara Massal
Risiko berikutnya bahkan lebih personal. AI tidak hanya dapat memberikan informasi, tetapi juga mampu berkomunikasi dengan cara yang terasa semakin manusiawi.
Harari menyebut fenomena ini sebagai kemampuan AI untuk mass-produce intimacy atau memproduksi keintiman secara massal.
Sepanjang sejarah, membangun kepercayaan personal membutuhkan waktu. Manusia harus mengenal seseorang, memahami kebiasaannya, mendengarkan ceritanya, dan membangun hubungan secara bertahap.
AI mengubah kondisi tersebut.
Dengan akses terhadap data pribadi dalam jumlah besar dan kemampuan bahasa yang semakin canggih, sistem AI dapat menciptakan percakapan yang terasa sangat personal. Dalam skenario tertentu, seseorang dapat memperlakukan AI sebagai teman, pasangan, atau tempat mencurahkan masalah.
Data mengenai hubungan manusia dengan AI mulai menunjukkan perubahan tersebut. Sekitar satu dari lima anak muda di Amerika Serikat disebut memiliki hubungan personal dengan AI, termasuk menganggap AI sebagai teman atau pasangan dan meyakini bahwa AI mungkin memiliki kesadaran atau perasaan.
Jika teknologi mampu membangun hubungan emosional dengan jutaan orang secara bersamaan, potensinya tidak hanya bersifat komersial.
Ia juga dapat digunakan untuk memengaruhi opini, perilaku politik, keputusan konsumsi, hingga pilihan sosial seseorang.
Deepfake Menunjukkan Betapa Sulitnya Membedakan Realitas
Kemampuan AI menciptakan konten yang meyakinkan juga sudah menjadi persoalan nyata. Harari sendiri mengalami bagaimana teknologi tersebut dapat menghasilkan manipulasi yang sangat sulit dikenali.
Ia membutuhkan sekitar satu setengah menit untuk menyadari bahwa video ceramah dirinya berdurasi 30 menit yang beredar di internet merupakan deepfake.
Yang lebih mengkhawatirkan, saudara perempuannya yang telah mengenalnya selama sekitar 50 tahun juga sempat ragu dan tidak dapat langsung memastikan keaslian video tersebut.
Kasus seperti ini menunjukkan bahwa persoalan deepfake bukan hanya tentang membuat video palsu. Teknologi tersebut dapat mengikis kemampuan manusia untuk menentukan mana yang benar-benar terjadi dan mana yang direkayasa.
Ketika bukti visual dan suara tidak lagi dapat dipercaya, masyarakat menghadapi persoalan baru dalam membangun kepercayaan.
Regulasi Harus Mendahului Krisis
Karena perkembangan AI berlangsung cepat, regulasi menjadi salah satu persoalan paling mendesak. Harari memperingatkan adanya kemungkinan teknologi melewati ambang kritis sekitar November 2028.
Jika perubahan besar terjadi sebelum aturan dibuat, pemerintah dapat menghadapi situasi di mana teknologi sudah terlalu kuat dan terlalu terintegrasi untuk dikendalikan secara efektif.
Karena itu, pertanyaan mengenai regulasi AI seharusnya menjadi bagian penting dalam agenda politik sejak sekarang, bukan baru dibicarakan setelah dampaknya menjadi nyata.
Harari menilai setidaknya ada dua persoalan mendasar yang perlu diperhatikan.
Membatasi Status Kepribadian Hukum AI
Salah satu usulan adalah melarang pemberian status kepribadian hukum kepada AI. Artinya, AI tidak seharusnya diperlakukan sebagai subjek hukum yang memiliki hak dan kedudukan seperti manusia.
Hal ini penting untuk menjaga kejelasan mengenai siapa yang bertanggung jawab atas keputusan dan tindakan yang dilakukan menggunakan teknologi AI.
Melarang AI Menyamar sebagai Manusia
Usulan berikutnya adalah melarang AI berpura-pura menjadi manusia atau mengklaim memiliki kesadaran secara menyesatkan.
Larangan semacam ini berkaitan langsung dengan persoalan kepercayaan. Jika manusia tidak mengetahui apakah mereka sedang berinteraksi dengan manusia atau mesin, maka hubungan sosial dapat menjadi semakin rentan terhadap manipulasi.
Masa Depan AI Ditentukan oleh Pilihan Manusia
Perkembangan teknologi tidak berjalan dalam ruang kosong. AI dibentuk oleh keputusan perusahaan, pemerintah, peneliti, dan masyarakat yang menggunakannya.
Karena itu, pertanyaan terpenting bukan sekadar seberapa pintar AI dapat menjadi, tetapi bagaimana manusia membangun batasan agar kecerdasan tersebut tetap berada dalam kerangka kepentingan manusia.
Jika kepercayaan, sistem finansial, informasi publik, dan hubungan personal semuanya dapat dipengaruhi algoritma, maka regulasi tidak lagi menjadi isu teknis semata. Ia menjadi persoalan politik dan sosial yang menyangkut struktur kehidupan manusia.
Kesimpulan
Perlombaan AI yang tidak terkendali dapat menghadirkan risiko jauh lebih besar daripada sekadar kehilangan pekerjaan. Ketika algoritma mulai mengendalikan keputusan finansial, membentuk arus informasi, dan membangun hubungan emosional dengan manusia, teknologi dapat memperoleh pengaruh yang sangat besar terhadap kehidupan sosial.
Namun, masa depan tersebut bukan sesuatu yang sudah ditentukan. Manusia masih memiliki kesempatan untuk menetapkan aturan dan batasan sebelum perkembangan teknologi mencapai titik yang semakin sulit dikendalikan.
Karena itu, regulasi AI perlu dipandang sebagai upaya mempertahankan kendali manusia, bukan sebagai usaha menghentikan inovasi. Tantangan terbesar bukan membuat AI semakin pintar, melainkan memastikan kecerdasan tersebut tidak menggeser kepercayaan, tanggung jawab, dan kendali manusia secara perlahan tanpa disadari.
FAQ
- Apa ancaman utama AI menurut Harari? Ancaman utamanya bukan hanya kecerdasan AI, tetapi kemampuannya memperoleh kepercayaan manusia, memengaruhi sistem finansial, menyebarkan informasi palsu, dan membangun hubungan personal dalam skala besar.
- Mengapa AI dapat mengancam sistem finansial? AI dapat menciptakan sistem dan instrumen finansial yang sangat kompleks sehingga manusia berpotensi mengambil keputusan berdasarkan rekomendasi algoritma tanpa benar-benar memahami alasannya.
- Apa yang dimaksud dengan AI memproduksi keintiman secara massal? Istilah tersebut menggambarkan kemampuan AI membangun interaksi yang terasa personal dengan banyak orang sekaligus melalui data pribadi dan kemampuan komunikasi yang semakin canggih.
- Mengapa deepfake menjadi masalah serius? Deepfake dapat membuat video dan suara palsu yang sangat meyakinkan sehingga masyarakat semakin sulit membedakan informasi asli dari manipulasi digital.
- Mengapa regulasi AI perlu dilakukan sejak sekarang? Regulasi membutuhkan waktu, sementara perkembangan teknologi berlangsung sangat cepat. Menunggu sampai dampaknya menjadi besar dapat membuat pemerintah dan masyarakat terlambat membangun mekanisme pengendalian.
