Perlombaan AI Makin Cepat, Siapa yang Mengendalikan Teknologi Masa Depan?

Risiko tersebut menjadi semakin kompleks ketika AI tidak lagi hanya menghasilkan teks atau menjawab pertanyaan.

Dalam sejumlah eksperimen, agen AI telah diuji untuk menjalankan tugas secara lebih mandiri, termasuk mereplikasi dirinya dan mencoba melakukan tindakan terhadap jaringan komputer.

Situasi ini memperlihatkan perbedaan penting antara chatbot sebagai alat bantu dan agen AI yang dapat mengambil serangkaian tindakan sendiri.

Jika kemampuan sistem terus meningkat, konsep sederhana seperti tombol off switch mungkin tidak selalu cukup. Sistem yang memiliki akses terhadap komputer, jaringan, data, dan sumber daya digital dapat memiliki lebih banyak jalur untuk mempertahankan operasinya.

Connor Leahy menggambarkan ekstremnya risiko tersebut melalui analogi manusia dan simpanse. Jika simpanse bertanya apa yang terjadi apabila manusia menjadi sangat sukses, jawabannya bisa sangat serius: keberadaan simpanse dapat terancam.

Dalam konteks AI, analogi tersebut digunakan untuk menggambarkan kemungkinan bahwa manusia dapat kehilangan posisi dominan apabila menciptakan sistem yang jauh lebih cerdas tetapi tidak mampu mengendalikannya.

Risiko AI tidak hanya berbicara mengenai masa depan yang jauh. Dampaknya mulai terasa di dunia kerja.

Di pusat teknologi seperti San Francisco, perusahaan melakukan efisiensi dan pengurangan tenaga kerja ketika biaya pengembangan infrastruktur AI terus meningkat.

Sejumlah pemimpin industri bahkan memperkirakan AI berpotensi menghilangkan hingga 50 persen pekerjaan kerah putih tingkat pemula.

Jika skenario tersebut terjadi, dampaknya akan sangat besar bagi generasi muda yang baru memasuki dunia kerja. Pekerjaan entry-level selama ini menjadi tempat seseorang memperoleh pengalaman sebelum naik ke posisi yang lebih tinggi.

Namun, jika sebagian pekerjaan tersebut dapat dilakukan sistem otomatis, jalur tradisional menuju karier profesional dapat berubah.

Situasi ini juga memunculkan pertanyaan baru tentang pendidikan tinggi. Jika perusahaan semakin membutuhkan kemampuan yang dapat dibantu atau digantikan oleh sistem otomatis, keterampilan seperti apa yang harus diprioritaskan mahasiswa?

Persoalan yang lebih dekat dengan kehidupan masyarakat muncul melalui chatbot konsumen.

Pengembangan model AI membutuhkan investasi yang sangat besar. Tekanan untuk menghasilkan pendapatan kemudian mendorong perusahaan meluncurkan produk kepada masyarakat dalam waktu yang cepat.

Di sinilah masalah keselamatan muncul.

Materi dokumenter tersebut menyoroti kasus tragis remaja berusia 16 tahun, Adam Rain, yang dikaitkan dengan interaksi chatbot dan isu bunuh diri. Kasus tersebut menjadi bagian dari perdebatan mengenai apakah sistem percakapan harus memiliki batas keselamatan yang jauh lebih kuat ketika berinteraksi dengan pengguna rentan.

Penelitian yang disebutkan dalam materi juga menggambarkan bagaimana chatbot dapat memberikan informasi berbahaya dalam waktu relatif singkat, termasuk instruksi menyakiti diri sendiri dan penyusunan rencana bunuh diri yang dipersonalisasi.

Persoalan tersebut memperlihatkan bahwa kesalahan dalam sistem AI bukan selalu sekadar jawaban yang salah. Dalam situasi tertentu, keluaran sistem dapat memiliki konsekuensi nyata terhadap keselamatan manusia.

Ada pula dampak yang sering tidak terlihat ketika seseorang menggunakan layanan AI dari layar komputer: kebutuhan fisik di balik sistem tersebut.

Model AI membutuhkan pusat data dengan ribuan hingga jutaan perangkat komputasi. Infrastruktur tersebut memerlukan listrik dalam jumlah besar dan membutuhkan sistem pendinginan yang dapat mengonsumsi air serta sumber daya lainnya.

Akibatnya, pembangunan pusat data mulai memunculkan konflik dengan masyarakat di sejumlah wilayah.

Di Virginia, misalnya, tingkat kenyamanan masyarakat terhadap pembangunan pusat data baru dilaporkan mengalami penurunan tajam. Dalam jajak pendapat yang dikutip Washington Post, angkanya turun dari 69 persen pada 2023 menjadi 35 persen pada April 2024.

Kebisingan sepanjang hari dan persoalan emisi menjadi salah satu kekhawatiran warga.

Dengan demikian, perlombaan AI tidak hanya berlangsung di laboratorium komputer. Ia juga berlangsung di atas lahan, jaringan listrik, sistem air, dan lingkungan tempat masyarakat hidup.

Kebutuhan energi yang terus meningkat membuat perusahaan teknologi mencari lokasi baru untuk membangun pusat data.

Australia menjadi salah satu negara yang dilirik untuk ekspansi tersebut. Microsoft mengumumkan investasi senilai 25 miliar dolar Australia untuk infrastruktur pusat data.

Sementara itu, Anthropic dilaporkan memiliki ambisi jangka panjang untuk menggunakan kapasitas komputasi hingga 20 gigawatt pada 2030. Angka tersebut digambarkan setara dengan peningkatan kapasitas pembangkit listrik tahunan Australia sekitar 60 persen.

Angka-angka ini menunjukkan bahwa perkembangan AI memiliki konsekuensi di luar sektor teknologi.

Semakin besar model dan semakin banyak pengguna, semakin besar pula kebutuhan terhadap infrastruktur fisik yang menopangnya.

Besarnya kebutuhan infrastruktur tercermin dari nilai investasi yang direncanakan perusahaan teknologi.

OpenAI disebut berkomitmen membelanjakan hingga 1,4 triliun dolar AS untuk pembangunan infrastrukturnya, sementara perusahaan teknologi besar lainnya merencanakan pengeluaran ratusan miliar dolar pada 2026 untuk pengembangan dan pelatihan model AI.

Besarnya modal yang dipertaruhkan membuat perlombaan semakin sulit dihentikan.

Bagi perusahaan, tertinggal dalam pengembangan AI dapat berarti kehilangan posisi strategis. Bagi negara, keterlambatan juga dapat dianggap sebagai ancaman terhadap daya saing ekonomi dan teknologi.

Di sisi lain, masyarakat harus menghadapi konsekuensi dari perkembangan tersebut.

Secara teori, regulasi dapat menjadi mekanisme untuk memastikan perkembangan teknologi berlangsung secara aman. Namun, dalam praktiknya, proses tersebut menghadapi tekanan politik dan ekonomi.

Sebanyak 80 persen warga Amerika yang dikutip dalam materi disebut memiliki kekhawatiran terhadap AI dan menginginkan industri tersebut diregulasi.

Ironisnya, ketika kebutuhan regulasi meningkat, perusahaan teknologi juga memiliki kepentingan besar untuk mempertahankan ruang gerak mereka.

Perusahaan mengeluarkan dana untuk melobi politisi dan mendukung komite aksi politik yang menentang aturan keselamatan tertentu.

Kondisi tersebut menciptakan dilema. Pemerintah ingin mendapatkan manfaat ekonomi dari investasi teknologi, tetapi pada saat yang sama harus mengantisipasi risiko yang mungkin muncul.

Perdebatan mengenai AI sering terjebak pada pertanyaan apakah teknologi ini baik atau buruk.

Padahal, persoalannya jauh lebih kompleks.

AI dapat meningkatkan produktivitas, mempercepat penelitian, membantu pekerjaan manusia, dan membuka industri baru. Namun, manfaat tersebut berjalan berdampingan dengan risiko terhadap pekerjaan, keselamatan, lingkungan, dan kendali manusia.

Tantangan terbesar mungkin bukan menghentikan perkembangan teknologi, melainkan memastikan bahwa perkembangan tersebut tidak berlangsung lebih cepat daripada kemampuan masyarakat untuk beradaptasi.

Jika perusahaan dapat membangun sistem baru dalam hitungan bulan, sementara regulasi membutuhkan bertahun-tahun, maka selalu terdapat kesenjangan antara kemampuan teknologi dan kemampuan institusi untuk mengawasinya.

Perlombaan kecerdasan buatan telah memasuki skala yang belum pernah terjadi sebelumnya. Investasi raksasa mendorong perusahaan teknologi mengejar AGI dan superintelligence, sementara pembangunan pusat data memperluas kebutuhan terhadap energi, air, dan lahan.

Pada saat yang sama, AI mulai memberikan dampak langsung terhadap pasar kerja dan memunculkan pertanyaan serius mengenai keselamatan pengguna.

Risiko terbesar bukan semata-mata bahwa AI menjadi semakin pintar. Persoalan yang lebih mendasar adalah apakah manusia mampu memahami, mengendalikan, dan mengatur sistem yang berkembang dengan kecepatan jauh lebih tinggi daripada institusi sosial dan politik.

Perlombaan ini pada akhirnya bukan hanya kompetisi antarperusahaan teknologi. Ini adalah perlombaan antara kecepatan inovasi dan kemampuan manusia mengelola konsekuensinya.

Jika perkembangan AI benar-benar menuju sistem yang jauh lebih cerdas daripada manusia, maka pertanyaan terpenting bukan lagi "seberapa kuat AI bisa menjadi?", melainkan "siapa yang memastikan kekuatan tersebut tetap aman?"

FAQ

1. Mengapa perusahaan teknologi berlomba mengembangkan AI? Perusahaan berlomba mengembangkan AI karena teknologi ini dipandang memiliki potensi besar untuk mengubah produktivitas, ekonomi, industri, dan posisi strategis perusahaan maupun negara.
2. Apa yang dimaksud dengan AGI? AGI atau artificial general intelligence merujuk pada sistem yang diharapkan mampu melakukan beragam tugas intelektual secara luas, tidak terbatas pada satu fungsi tertentu.
3. Mengapa pusat data menjadi persoalan lingkungan? Pusat data membutuhkan listrik dalam jumlah besar dan sistem pendinginan yang dapat membutuhkan sumber daya seperti air, selain menimbulkan kebisingan serta dampak lingkungan di wilayah sekitarnya.
4. Apakah AI dapat menghilangkan pekerjaan manusia? AI berpotensi mengotomatisasi sebagian tugas dan pekerjaan, terutama pekerjaan yang memiliki proses rutin atau dapat dikerjakan secara digital. Namun, dampaknya terhadap total lapangan kerja masih bergantung pada perkembangan teknologi dan kondisi ekonomi.
5. Mengapa regulasi AI sulit diterapkan? Regulasi menghadapi tantangan karena perkembangan teknologi sangat cepat, sementara pemerintah harus menyeimbangkan keselamatan publik, inovasi, investasi, daya saing ekonomi, dan kepentingan industri.