Kampus Times- Kemajuan kecerdasan buatan generatif membawa persoalan baru dalam ekosistem informasi digital. Teknologi kini dapat menghasilkan wajah, suara, gambar, hingga video yang sangat menyerupai kenyataan. Ketika kemampuan tersebut digunakan untuk menipu, memfitnah, memanipulasi opini, atau menyalahgunakan identitas seseorang, persoalannya tidak lagi sekadar berada di ranah teknologi.
Dalam pembahasan mengenai penanganan media palsu, urgensi penegakan hukum menjadi salah satu perhatian utama. Dame Wendy Hall menekankan pentingnya payung hukum yang tegas terhadap penyalahgunaan citra dan pembuatan deepfake ilegal. Artinya, teknologi tidak cukup hanya diatur melalui imbauan etika, tetapi membutuhkan konsekuensi hukum yang nyata bagi pihak yang sengaja menggunakan AI untuk melakukan pelanggaran.
Persoalan ini menjadi semakin penting karena kecepatan penyebaran konten digital jauh lebih tinggi dibandingkan proses klarifikasi. Sebuah video palsu dapat beredar luas dalam hitungan menit, sementara pemeriksaan fakta dan proses hukum membutuhkan waktu lebih panjang.
Mengapa Deepfake Sulit Ditangani?
Deepfake memanfaatkan kemampuan AI untuk mengubah atau menghasilkan media dengan tingkat kemiripan yang semakin tinggi. Wajah seseorang dapat ditempatkan dalam video lain, suara dapat ditiru, sementara gambar sintetis dapat dibuat menyerupai dokumentasi fotografis.
Tantangannya bukan hanya bagaimana membuktikan bahwa sebuah konten palsu, tetapi juga bagaimana menentukan siapa yang bertanggung jawab, bagaimana membuktikan niat penyalahgunaan, dan aturan hukum apa yang dapat diterapkan.
Karena itu, regulasi deepfake idealnya membedakan antara penggunaan kreatif yang sah dan manipulasi yang menimbulkan kerugian. Penggunaan teknologi untuk film, satire, pendidikan, atau eksperimen tidak dapat diperlakukan sama dengan pemalsuan identitas untuk penipuan atau penyebaran informasi palsu yang merugikan.
Invisible Watermarking sebagai Standar Baru
Selain penegakan hukum, pendekatan teknis dapat membantu masyarakat mengenali asal-usul media. Salah satu gagasan yang semakin mendapat perhatian adalah invisible watermarking atau watermark tak kasat mata.
Sir Demis Hassabis mendorong gagasan agar teknologi penandaan seperti SynthID menjadi bagian dari standar bagi model pembuat media AI. Konsepnya sederhana: setiap konten yang dihasilkan AI dapat diberi tanda digital yang tidak terlihat secara kasatmata, tetapi dapat diperiksa oleh sistem tertentu.
Google DeepMind menjelaskan bahwa SynthID dapat menyisipkan watermark digital ke dalam gambar, audio, teks, dan video hasil AI. Pada gambar dan video, watermark dirancang agar tidak terlihat manusia serta tetap dapat dideteksi setelah sejumlah perubahan umum seperti pemotongan, pemberian filter, perubahan frame rate, atau kompresi.
Watermark Bukan Solusi Tunggal
Namun, invisible watermarking bukan berarti semua persoalan deepfake otomatis selesai. Google sendiri menjelaskan bahwa SynthID bukan solusi tunggal untuk mengidentifikasi seluruh konten AI. Sistem seperti ini terutama efektif ketika konten memang dibuat menggunakan teknologi yang menerapkan watermark tersebut.
Karena itu, standar industri perlu dibangun secara luas dan interoperabel. Jika hanya sebagian penyedia AI yang menggunakan watermark, ekosistem digital tetap memiliki celah besar untuk konten tanpa penanda.
Di sinilah regulasi dapat memainkan peran strategis. Pemerintah dan pembuat kebijakan dapat menetapkan standar transparansi tertentu bagi pengembang model generatif, sementara industri menentukan implementasi teknis yang aman dan dapat digunakan lintas platform.
Browser Bisa Menjadi Lapisan Deteksi Berikutnya
Bayangkan ketika pengguna membuka sebuah gambar atau video di internet, browser dapat memberikan informasi tambahan secara otomatis: apakah konten tersebut dibuat atau dimodifikasi menggunakan AI, dari sistem mana asalnya, dan apakah terdapat bukti autentikasi digital.
Arah teknologi saat ini mulai menuju konsep tersebut. Google telah mengembangkan berbagai fitur verifikasi untuk membantu pengguna memahami asal dan perubahan suatu konten melalui Search, Gemini, Chrome, serta teknologi seperti SynthID dan C2PA Content Credentials.
Bagi jurnalis, kemampuan tersebut juga sangat penting. Redaksi tidak seharusnya hanya mengandalkan pemeriksaan visual ketika menerima foto atau video yang berpotensi menjadi bahan berita.
Alat verifikasi otomatis dapat menjadi lapisan pemeriksaan awal sebelum sebuah konten dipublikasikan. Dengan begitu, proses jurnalistik dapat memasukkan autentikasi media sebagai bagian dari prosedur kerja, bukan sekadar langkah tambahan ketika muncul keraguan.
Menuju Ekosistem Media yang Lebih Transparan
Masa depan penanganan deepfake kemungkinan tidak akan bergantung pada satu teknologi. Watermark, metadata asal-usul konten, sistem deteksi AI, verifikasi jurnalistik, literasi digital, dan penegakan hukum perlu bekerja secara berlapis.
Pendekatan tersebut penting karena media digital memiliki karakter yang berbeda dari dokumen fisik. Konten dapat disalin, diubah, dikompresi, diunggah ulang, dan didistribusikan melalui banyak platform dalam waktu singkat.
Karena itu, standar penandaan sejak proses pembuatan dapat membantu menciptakan jejak digital yang lebih mudah diverifikasi. Sementara itu, hukum memberikan konsekuensi terhadap pihak yang sengaja menggunakan teknologi untuk melakukan pelanggaran.
Kesimpulan
Penanganan deepfake membutuhkan kombinasi antara regulasi yang memiliki kekuatan penegakan dan teknologi yang mampu meningkatkan transparansi. Pernyataan mengenai pentingnya sanksi terhadap penyalahgunaan citra dan deepfake ilegal menunjukkan bahwa persoalan ini sudah bergerak dari isu teknis menuju persoalan hukum dan sosial.
Di sisi teknologi, invisible watermarking seperti SynthID menawarkan salah satu fondasi untuk mengenali konten yang dihasilkan AI. Namun, efektivitasnya akan semakin besar jika diterapkan secara luas, interoperabel, dan didukung sistem verifikasi di berbagai platform.
Pada akhirnya, masa depan internet bukan hanya tentang kemampuan membuat media yang semakin realistis, tetapi juga kemampuan membuktikan dari mana media tersebut berasal. Ketika browser, platform, jurnalis, pemerintah, dan pengembang AI memiliki mekanisme verifikasi yang saling terhubung, masyarakat memiliki peluang lebih besar untuk membedakan antara konten kreatif, manipulasi, dan penipuan.
FAQ
- Apa itu deepfake? Deepfake adalah media sintetis atau media yang dimanipulasi menggunakan AI sehingga wajah, suara, gambar, atau video seseorang dapat dibuat atau diubah secara sangat meyakinkan.
- Mengapa deepfake membutuhkan penegakan hukum? Karena teknologi tersebut dapat digunakan untuk penipuan, pencemaran nama baik, penyalahgunaan identitas, manipulasi informasi, dan berbagai bentuk kerugian lainnya.
- Apa yang dimaksud invisible watermarking? Invisible watermarking adalah penandaan digital yang disisipkan ke dalam konten tetapi tidak terlihat atau terdengar oleh manusia, sehingga dapat diperiksa menggunakan sistem deteksi tertentu.
- Apa itu SynthID? SynthID adalah teknologi Google DeepMind untuk memberi watermark dan membantu mengidentifikasi konten yang dibuat menggunakan AI, termasuk gambar, audio, teks, dan video.
- Apakah watermark dapat menghilangkan seluruh risiko deepfake? Tidak. Watermark merupakan salah satu lapisan verifikasi dan bukan solusi tunggal. Deteksi yang lebih kuat membutuhkan kombinasi watermark, provenance, teknologi deteksi, verifikasi manusia, literasi digital, dan penegakan hukum.
