Kampus Times- Perkembangan kecerdasan buatan atau artificial intelligence (AI) berlangsung jauh lebih cepat dibandingkan kemampuan banyak negara dalam membangun aturan dan mekanisme pengawasannya. AI kini tidak hanya digunakan untuk menghasilkan konten atau membantu pekerjaan administratif, tetapi juga mulai memengaruhi ekonomi, hukum, pendidikan, keamanan, dan pengambilan keputusan.
Situasi tersebut memunculkan pertanyaan penting: masa depan seperti apa yang ingin dibangun ketika kemampuan AI terus berkembang?
Pertanyaan ini menjadi dasar bagi semakin banyak organisasi dan pemerintah untuk memperkuat tata kelola AI. Salah satu organisasi yang aktif dalam isu tersebut adalah The Future Society, yang berfokus pada kebijakan, tata kelola, dan dialog internasional mengenai teknologi masa depan.
Mengapa Tata Kelola AI Harus Bersifat Global?
AI tidak mengenal batas geografis. Model AI yang dikembangkan di satu negara dapat digunakan di negara lain hanya melalui koneksi internet. Karena itu, risiko dan dampaknya juga tidak dapat sepenuhnya ditangani oleh satu pemerintah.
Koordinasi internasional menjadi penting untuk membahas isu seperti keamanan, privasi, hak asasi manusia, transparansi, dan penggunaan AI secara bertanggung jawab.
The Future Society didirikan pada 2014 sebagai proyek inkubasi di Harvard Kennedy School. Organisasi ini kemudian berkembang dengan staf yang tersebar di empat benua dan terlibat dalam berbagai forum kebijakan teknologi.
Mempertemukan Pemangku Kepentingan
Salah satu pendekatan yang digunakan adalah mempertemukan pembuat kebijakan, pemimpin industri, akademisi, dan praktisi hukum dari berbagai negara.
Forum tahunan Athens Roundtable, misalnya, disebut telah mempertemukan lebih dari 4.000 peserta dari 120 negara. Forum semacam ini memberikan ruang untuk membahas tantangan AI dari perspektif yang berbeda.
Organisasi tersebut juga memfasilitasi dialog antara eksekutif teknologi dari Amerika Serikat dan Tiongkok mengenai isu etika AI, menunjukkan bahwa tata kelola teknologi membutuhkan komunikasi lintas batas meskipun terdapat perbedaan kepentingan antarnegara.
Membentuk Prinsip AI Internasional
Tata kelola AI membutuhkan prinsip yang dapat menjadi acuan bersama. Salah satu kontribusi yang dibahas adalah penelitian mengenai pemetaan rantai nilai AI global untuk OECD.
Riset tersebut kemudian berkontribusi pada pengembangan Prinsip AI OECD, yang selanjutnya mendapat dukungan dan adopsi dari negara-negara G20.
Prinsip bersama menjadi penting karena negara dapat memiliki pendekatan regulasi yang berbeda. Tanpa titik temu, perusahaan teknologi harus menghadapi standar yang sangat beragam, sementara masyarakat dapat memperoleh tingkat perlindungan yang berbeda tergantung tempat tinggalnya.
Menuju Kerangka AI yang Bertanggung Jawab
Tata kelola AI tidak berarti menghentikan inovasi. Tujuannya adalah menciptakan lingkungan yang memungkinkan teknologi berkembang sambil menjaga keselamatan dan kepentingan publik.
Pertanyaan yang muncul bukan hanya apakah AI dapat melakukan sesuatu, tetapi juga apakah AI seharusnya melakukan sesuatu, bagaimana risikonya dikendalikan, dan siapa yang bertanggung jawab ketika terjadi kesalahan.
AI Mulai Masuk ke Sistem Peradilan
Salah satu bidang yang membutuhkan perhatian khusus adalah hukum. AI dapat membantu menganalisis dokumen, mencari informasi hukum, atau mempercepat proses administratif.
Namun, penggunaan AI dalam sistem peradilan memiliki konsekuensi serius. Kesalahan sistem dapat memengaruhi hak seseorang, sementara algoritma yang tidak transparan dapat menimbulkan persoalan keadilan.
Karena itu, The Future Society bekerja sama dengan UNESCO dalam pengembangan edukasi bagi praktisi hukum mengenai dampak AI.
Meningkatkan Literasi AI bagi Praktisi Hukum
Inisiatif tersebut mencakup kursus daring enam modul yang ditujukan kepada operator yudisial. Tujuannya adalah membantu praktisi memahami teknologi AI dan implikasinya terhadap sistem hukum.
Literasi semacam ini semakin penting karena hakim, pengacara, dan aparat peradilan tidak harus menjadi programmer. Namun, mereka perlu memahami batas kemampuan, risiko, dan konsekuensi penggunaan AI dalam proses hukum.
Dengan demikian, teknologi dapat digunakan tanpa mengorbankan prinsip supremasi hukum.
EU AI Act dan Pendekatan Berbasis Risiko
Uni Eropa menjadi salah satu kawasan yang mengambil langkah komprehensif dalam regulasi AI melalui EU AI Act. Salah satu isu yang mendapat perhatian adalah pengaturan terhadap general-purpose AI, yaitu sistem AI yang dapat digunakan untuk berbagai tujuan.
Pendekatan yang ditekankan adalah tata kelola bertingkat berdasarkan tingkat risiko. Semakin besar potensi dampak terhadap hak fundamental dan kesejahteraan publik, semakin besar pula kewajiban pengawasan yang dibutuhkan.
Mengapa Regulasi Berbasis Risiko Penting?
Tidak semua sistem AI memiliki tingkat bahaya yang sama. Aplikasi AI untuk rekomendasi hiburan tentu memiliki konsekuensi berbeda dibandingkan sistem yang digunakan dalam kesehatan, penegakan hukum, atau keputusan penting lainnya.
Karena itu, regulasi berbasis risiko memungkinkan pemerintah menerapkan persyaratan secara proporsional.
The Future Society disebut memberikan rekomendasi teknis untuk membantu membentuk aturan EU AI Act mengenai general-purpose AI setelah melalui penelitian mendalam selama lebih dari dua tahun.
Strategi AI Nasional Harus Inklusif
Tata kelola AI juga tidak berhenti pada regulasi internasional. Setiap negara membutuhkan strategi nasional yang sesuai dengan kondisi ekonomi, infrastruktur, sumber daya manusia, dan kebutuhan masyarakatnya.
Dukungan terhadap pengembangan strategi AI nasional juga mencakup wilayah seperti Afrika. Tujuannya adalah memastikan AI tidak hanya menjadi sumber pertumbuhan teknologi bagi negara maju, tetapi juga dapat memberikan manfaat ekonomi yang inklusif dan berkelanjutan.
Masyarakat Sipil Perlu Dilibatkan
Kebijakan AI tidak seharusnya hanya dirumuskan oleh pemerintah dan perusahaan teknologi. Masyarakat sipil, akademisi, kelompok profesi, dan komunitas terdampak perlu memiliki ruang untuk menyampaikan pandangan.
Keterlibatan publik membantu regulator memahami dampak nyata teknologi di lapangan. Hal tersebut juga dapat meningkatkan legitimasi kebijakan yang dibuat.
Masa Depan AI Ditentukan oleh Tata Kelolanya
Pertumbuhan kemampuan AI menimbulkan peluang sekaligus risiko. Teknologi dapat meningkatkan produktivitas, mempercepat penelitian, dan menciptakan model bisnis baru. Namun, tanpa tata kelola yang memadai, AI juga dapat memperbesar persoalan seperti bias, pelanggaran privasi, disinformasi, dan ketimpangan akses.
Pertanyaan yang menjadi semakin relevan adalah: “What is the future we want as the capabilities of artificial intelligence rapidly expand are we ready for what's ahead?”
Jawabannya tidak hanya bergantung pada teknologi. Masa depan AI juga ditentukan oleh kualitas institusi, regulasi, kerja sama internasional, serta kemampuan masyarakat memahami dan mengawasi teknologi.
Kesimpulan
Perkembangan AI membutuhkan tata kelola yang mampu bergerak secepat inovasi teknologi. Dialog internasional, Prinsip AI OECD, edukasi sektor hukum, regulasi berbasis risiko melalui EU AI Act, serta strategi AI nasional merupakan bagian dari upaya membangun ekosistem AI yang lebih bertanggung jawab.
The Future Society menunjukkan bahwa tata kelola AI membutuhkan kolaborasi lintas negara dan lintas sektor. Pemerintah, perusahaan teknologi, akademisi, praktisi hukum, dan masyarakat sipil memiliki peran masing-masing.
Pada akhirnya, masa depan AI tidak hanya ditentukan oleh seberapa pintar mesin yang berhasil diciptakan. Masa depan tersebut juga ditentukan oleh seberapa bijaksana manusia menetapkan batas, aturan, dan tujuan penggunaannya.
FAQ
- Apa yang dimaksud tata kelola AI? Tata kelola AI adalah rangkaian prinsip, kebijakan, aturan, dan mekanisme pengawasan untuk memastikan pengembangan serta penggunaan AI berlangsung aman, bertanggung jawab, dan memberikan manfaat bagi masyarakat.
- Mengapa tata kelola AI membutuhkan kerja sama internasional? Karena AI dapat dikembangkan dan digunakan lintas negara sehingga risiko seperti privasi, keamanan, hak asasi, dan dampak ekonomi tidak dapat ditangani secara efektif oleh satu negara saja.
- Apa itu EU AI Act? EU AI Act adalah kerangka regulasi Uni Eropa yang mengatur kecerdasan buatan dengan pendekatan berbasis risiko untuk mengurangi dampak terhadap keselamatan, hak fundamental, dan kepentingan publik.
- Mengapa AI perlu diatur dalam sistem peradilan? Karena penggunaan AI dalam proses hukum dapat memengaruhi hak individu, sehingga praktisi perlu memahami kemampuan, keterbatasan, risiko, dan implikasi etis teknologi tersebut.
- Siapa yang harus terlibat dalam tata kelola AI? Pemerintah, perusahaan teknologi, akademisi, praktisi hukum, organisasi internasional, dan masyarakat sipil perlu terlibat agar kebijakan AI lebih seimbang dan inklusif.
