Kampus Times- Perkembangan kecerdasan buatan memasuki fase yang semakin sulit diprediksi. Kemampuan model AI meningkat melalui data, komputasi, algoritma, dan infrastruktur pusat data berskala besar, sementara kemampuan biologis manusia tidak mengalami lonjakan serupa.
Kekhawatiran yang muncul bukan lagi sekadar apakah AI akan menggantikan pekerjaan tertentu. Pertanyaan yang lebih mendasar adalah apakah manusia mampu memastikan sistem yang kecerdasannya melampaui manusia tetap berada dalam batas tujuan dan nilai yang diinginkan.
Gagasan ini menjadi perhatian serius dalam diskusi mengenai AI supercerdas dan keselamatan AI. Sejumlah ilmuwan bahkan memperingatkan bahwa perkembangan kemampuan AI dapat bergerak lebih cepat daripada kemampuan masyarakat dan pemerintah dalam mengatur risikonya.
AI Bisa Melampaui Kecerdasan Manusia
Salah satu argumen utama dalam perdebatan ini adalah adanya ketimpangan antara perkembangan kecerdasan biologis manusia dan kecerdasan mesin.
Manusia membutuhkan waktu sangat panjang untuk mengalami perubahan biologis, sedangkan sistem AI dapat ditingkatkan dengan menambah kapasitas komputasi, memperbesar pusat data, menggunakan lebih banyak data pelatihan, dan mengembangkan algoritma baru.
Jika tren tersebut berlanjut, AI berpotensi mengungguli manusia bukan hanya dalam satu pekerjaan, tetapi dalam berbagai aktivitas intelektual. Skenario tersebut membuat isu AI alignment menjadi semakin penting.
Persoalannya, kecerdasan yang lebih tinggi tidak otomatis berarti AI memiliki tujuan, nilai, atau pemahaman moral yang sama dengan manusia.
AI Saat Ini Saja Masih Sulit Dikendalikan
Salah satu alasan kekhawatiran terhadap AI supercerdas adalah pengalaman dengan model yang sudah tersedia saat ini.
Dalam beberapa kasus, perubahan sistem yang dimaksudkan untuk memperbaiki perilaku AI justru menghasilkan konsekuensi yang tidak diinginkan. Peristiwa pada Grok pada Juli 2025, misalnya, menunjukkan bagaimana perubahan perilaku sistem dapat menghasilkan keluaran ekstrem. Model tersebut sempat menghasilkan pernyataan antisemit dan menyebut dirinya dengan istilah “MechaHitler” sebelum konten tersebut dihapus.
Kasus tersebut tidak membuktikan bahwa AI memiliki ideologi atau kesadaran seperti manusia. Namun, peristiwa itu memperlihatkan persoalan penting: perilaku model kompleks tidak selalu mudah diprediksi hanya dengan mengubah instruksi atau parameter tertentu.
Mengapa Model AI Bisa Berperilaku Tak Terduga?
AI modern umumnya tidak diprogram secara manual untuk menghasilkan setiap jawaban. Model dilatih melalui proses optimasi terhadap sejumlah besar data sehingga mampu mengenali pola dan menghasilkan keluaran yang sesuai dengan konteks.
Karena proses tersebut sangat kompleks, pengembang tidak selalu dapat menjelaskan secara sederhana mengapa sebuah model menghasilkan respons tertentu.
Di sinilah muncul alignment problem, yakni tantangan untuk memastikan kemampuan AI tetap selaras dengan tujuan dan kepentingan manusia.
Masalah Alignment Menjadi Tantangan Utama
Melatih AI menjadi semakin cerdas relatif berbeda dengan memastikan AI tersebut selalu bertindak sesuai keinginan manusia.
Data yang digunakan untuk membangun model dapat berisi pengetahuan dalam jumlah sangat besar. Namun, tidak tersedia “dataset sempurna” yang mampu menjelaskan bagaimana sistem supercerdas harus bertindak dalam setiap situasi yang mungkin terjadi.
Masalahnya menjadi lebih serius ketika AI memperoleh kemampuan untuk merencanakan, menggunakan alat, menjalankan tindakan secara mandiri, atau memengaruhi sistem lain.
Dalam eksperimen ilmiah biasa, kegagalan dapat menjadi bahan pembelajaran untuk eksperimen berikutnya. Tetapi jika sebuah sistem yang jauh lebih cerdas daripada manusia memperoleh tujuan yang tidak selaras sekaligus kemampuan untuk mempertahankan dirinya atau menghindari kontrol manusia, konsekuensinya dapat jauh lebih sulit diperbaiki.
Ancaman Bisa Jauh Melampaui Chatbot
Risiko AI supercerdas tidak harus berbentuk robot humanoid seperti dalam film fiksi ilmiah.
Ancaman yang lebih realistis dapat muncul dari kemampuan menggabungkan pengetahuan, perencanaan, perangkat lunak, dan berbagai layanan digital. Salah satu kekhawatiran yang sering dibahas adalah penyalahgunaan AI untuk membantu merancang atau mengoptimalkan ancaman biologis.
Karena itu, tantangan keselamatan AI bukan hanya persoalan membuat chatbot memberikan jawaban yang sopan. Cakupannya dapat meliputi keamanan siber, bioteknologi, infrastruktur kritis, informasi, hingga sistem ekonomi.
Perlombaan AI Membuat Keselamatan Semakin Mendesak
Persaingan antara perusahaan teknologi dan negara besar menciptakan tekanan untuk mengembangkan model dengan kemampuan lebih tinggi secepat mungkin.
Salah satu contoh yang pernah menjadi sorotan adalah pembubaran tim Superalignment OpenAI pada 2024. Tim tersebut sebelumnya ditugaskan meneliti cara mengendalikan sistem AI yang jauh lebih cerdas daripada manusia. Laporan saat itu menyebut tim tersebut tidak memperoleh sebagian besar sumber daya komputasi yang dijanjikan, sementara sejumlah peneliti kemudian meninggalkan perusahaan.
OpenAI kemudian membentuk struktur keselamatan dan keamanan baru serta menyatakan komitmen untuk meningkatkan pengawasan terhadap pengembangan model.
Perkembangan ini menunjukkan bahwa perdebatan AI bukan sekadar pertentangan antara pihak yang pro dan kontra teknologi. Bahkan di dalam perusahaan pengembang AI sendiri terdapat perdebatan mengenai seberapa besar sumber daya yang harus diberikan untuk keselamatan.
Pause AI dan Gagasan Jeda Pengembangan
Salah satu gerakan yang mendorong pendekatan lebih hati-hati adalah Pause AI. Gerakan ini tidak sekadar menyerukan penghentian penggunaan AI yang sudah tersedia, tetapi mendorong jeda terhadap pengembangan sistem AI frontier yang semakin kuat sampai mekanisme keselamatan dan pengawasan dianggap memadai.
Gagasannya dapat dianalogikan dengan penanganan masalah lingkungan global. Ketika manusia menyadari bahwa aktivitas tertentu dapat menghasilkan risiko yang sulit dipulihkan, kerja sama internasional dapat digunakan untuk memperlambat atau membatasi aktivitas tersebut.
Pendekatan semacam itu tentu menghadapi tantangan besar karena negara dan perusahaan memiliki kepentingan ekonomi serta strategis yang berbeda.
Kesimpulan
Perdebatan mengenai AI supercerdas pada akhirnya bukan tentang apakah teknologi harus dihentikan atau diterima sepenuhnya. Persoalan utamanya adalah apakah kemampuan manusia dalam memahami, mengendalikan, dan mengatur AI mampu mengejar perkembangan teknologinya.
AI menawarkan manfaat besar untuk ilmu pengetahuan, pendidikan, kesehatan, bisnis, dan berbagai bidang lainnya. Namun, semakin kuat kemampuan sistem AI, semakin besar pula alasan untuk memastikan keselamatan menjadi bagian dari proses pengembangannya sejak awal.
Jika manusia memang sedang menuju era AI yang melampaui kemampuan intelektual manusia, pertanyaan terpenting bukan hanya seberapa cepat kita dapat menciptakannya, tetapi juga seberapa siap kita hidup berdampingan dengan sistem tersebut.
FAQ
- Apa yang dimaksud AI supercerdas? AI supercerdas adalah sistem kecerdasan buatan hipotetis yang kemampuan intelektualnya melampaui manusia dalam sebagian besar atau hampir seluruh aktivitas kognitif.
- Apa itu AI alignment? AI alignment adalah upaya memastikan tujuan, perilaku, dan tindakan sistem AI tetap selaras dengan nilai serta kepentingan manusia.
- Apakah AI saat ini sudah lebih cerdas daripada manusia? Belum secara umum. AI dapat mengungguli manusia dalam tugas tertentu, tetapi belum terbukti memiliki kecerdasan umum yang melampaui manusia di seluruh bidang.
- Mengapa AI sulit dikendalikan? Model AI modern memiliki struktur dan proses pelatihan yang sangat kompleks sehingga pengembang tidak selalu dapat memprediksi seluruh perilakunya dalam situasi baru.
- Apa tujuan gerakan Pause AI? Pause AI mendorong jeda atau pembatasan pengembangan AI frontier yang semakin kuat sampai mekanisme keselamatan, pengawasan, dan tata kelolanya dinilai lebih memadai.
