Kampus Times- Perkembangan generative AI membuat produksi gambar, video, suara, dan teks sintetis semakin mudah. Di satu sisi, teknologi ini membuka peluang besar bagi pendidikan, industri kreatif, bisnis, hingga komunikasi. Namun di sisi lain, kemampuan menghasilkan media yang sangat realistis juga memperbesar risiko deepfake dan penyebaran informasi manipulatif.
Situasi tersebut membuat keamanan informasi tidak lagi cukup mengandalkan kemampuan manusia untuk membedakan konten asli dan buatan mesin. Diperlukan mekanisme teknis yang dapat bekerja sejak konten dibuat, sehingga asal-usul dan karakteristik media dapat diperiksa ketika beredar di internet.
Salah satu pendekatan yang semakin mendapat perhatian adalah invisible watermarking atau watermark tak kasat mata. Teknologi ini menanamkan informasi tertentu ke dalam media digital tanpa mengganggu tampilan atau suara yang diterima pengguna.
Invisible Watermarking untuk Melacak Konten AI
Konsep watermarking sebenarnya bukan hal baru. Industri media telah lama menggunakan penanda digital untuk kepemilikan, distribusi, dan perlindungan hak cipta. Perbedaannya, watermarking berbasis AI diarahkan untuk membantu mengidentifikasi apakah sebuah konten dihasilkan atau dimodifikasi menggunakan sistem kecerdasan buatan.
Salah satu teknologi yang menjadi contoh adalah SynthID. Sistem semacam ini dirancang agar penanda tidak terlihat secara langsung, tetapi dapat dideteksi menggunakan mekanisme tertentu. Pendekatan tersebut memberikan lapisan informasi tambahan ketika sebuah gambar atau media dipertanyakan keasliannya.
Dorongan Demis Hassabis agar invisible watermarking menjadi standar industri menunjukkan perubahan penting dalam cara memandang keamanan AI. Jika penandaan semacam ini diterapkan secara luas, peramban web, platform digital, maupun jurnalis berpotensi memiliki alat tambahan untuk memeriksa media sintetis secara otomatis.
Namun watermark bukan solusi tunggal. Konten dapat mengalami kompresi, pemrosesan ulang, pengeditan, atau perubahan format ketika berpindah antarplatform. Karena itu, efektivitas watermarking perlu ditempatkan dalam ekosistem yang lebih luas bersama provenance, deteksi manipulasi, literasi digital, dan kebijakan platform.
AI Assurance Menjadi Industri Baru
Perubahan berikutnya terjadi pada tingkat industri. Ketika AI digunakan untuk mengambil keputusan penting, perusahaan tidak hanya membutuhkan model yang canggih, tetapi juga mekanisme untuk menguji apakah sistem tersebut aman, dapat diandalkan, dan sesuai dengan tujuan penggunaannya.
Di sinilah konsep AI Assurance menjadi semakin penting. Secara sederhana, AI Assurance dapat dipahami sebagai rangkaian proses untuk memberikan keyakinan bahwa sistem AI bekerja sesuai standar keamanan, kualitas, risiko, dan tata kelola yang telah ditetapkan.
Inggris Mendorong Profesi AI Assurance
Inggris menjadi salah satu negara yang aktif membangun ekosistem pengujian dan keamanan AI. Pembentukan AI Security Institute serta pengembangan pusat pengukuran AI di National Physical Laboratory menunjukkan bahwa pengujian sistem kecerdasan buatan mulai diperlakukan sebagai infrastruktur penting.
Perkembangan ini juga membuka peluang munculnya profesi baru. AI Assurance tidak hanya membutuhkan ilmuwan komputer atau insinyur AI, tetapi juga ahli keamanan, auditor, penguji sistem, analis risiko, regulator, dan profesional tata kelola teknologi.
Dengan demikian, pertumbuhan AI dapat menciptakan lapangan pekerjaan yang tidak sepenuhnya berada pada aktivitas membuat model. Ada kebutuhan untuk memastikan model tersebut aman sebelum digunakan dalam lingkungan nyata.
Perbankan dan Enterprise Mendorong Guardrails
Tekanan terhadap keamanan AI semakin kuat ketika teknologi masuk ke sektor yang memiliki konsekuensi finansial tinggi. Perbankan, misalnya, mulai memperhatikan risiko ketika sistem AI digunakan dalam proses otomatis yang berkaitan dengan transaksi, layanan nasabah, deteksi penipuan, atau pengambilan keputusan.
Kesalahan sebuah model dalam konteks tersebut tidak selalu berhenti pada jawaban yang keliru. Sistem yang memiliki akses terhadap proses bisnis dapat menghasilkan konsekuensi finansial dan operasional yang jauh lebih besar.
Karena itu, perusahaan membutuhkan guardrails atau pembatas keamanan yang menentukan tindakan apa yang boleh dan tidak boleh dilakukan oleh sistem AI. Guardrails dapat mencakup pembatasan akses, verifikasi manusia, pengawasan transaksi, pengujian model, hingga mekanisme penghentian ketika sistem menunjukkan perilaku berisiko.
Tekanan dari sektor enterprise pada akhirnya dapat menjadi pendorong penting bagi industri AI. Perusahaan tidak lagi hanya membeli kemampuan model, tetapi juga membeli jaminan bahwa teknologi tersebut dapat digunakan secara aman.
Dari Deepfake Menuju Ekonomi Kepercayaan
Perkembangan watermarking dan AI Assurance memperlihatkan bahwa masa depan kecerdasan buatan akan sangat berkaitan dengan kepercayaan. Ketika konten sintetis semakin realistis, masyarakat membutuhkan cara untuk mengetahui dari mana sebuah media berasal dan bagaimana media tersebut dibuat.
Bagi industri media dan jurnalisme, teknologi provenance dan watermarking dapat menjadi alat tambahan dalam proses verifikasi. Bagi perusahaan, AI Assurance dapat membantu mengurangi risiko sebelum sistem digunakan untuk aktivitas penting.
Sementara bagi dunia pendidikan, perkembangan ini membuka bidang kompetensi baru. Mahasiswa tidak hanya perlu memahami cara menggunakan AI, tetapi juga bagaimana mengevaluasi keamanan, keandalan, bias, dan risiko penggunaannya.
Tantangan Standardisasi
Tantangan terbesar adalah membangun standar yang dapat digunakan lintas perusahaan dan platform. Jika setiap pengembang menggunakan sistem penandaan berbeda dan tidak saling kompatibel, proses verifikasi konten tetap akan terfragmentasi.
Karena itu, standar industri menjadi sangat penting. Semakin luas penerapannya, semakin besar peluang perangkat lunak, platform digital, dan organisasi media untuk membaca informasi provenance secara konsisten.
Kesimpulan
Keamanan AI sedang berkembang dari sekadar fitur tambahan menjadi sebuah ekosistem industri. Invisible watermarking dapat membantu menelusuri media buatan AI, sementara AI Assurance menyediakan kerangka untuk menguji dan memastikan keamanan sistem sebelum digunakan dalam lingkungan nyata.
Dorongan dari sektor perbankan dan enterprise memperkuat kebutuhan tersebut karena kesalahan AI dapat memiliki konsekuensi finansial dan operasional yang serius. Pada akhirnya, perkembangan ini menunjukkan bahwa masa depan AI tidak hanya ditentukan oleh seberapa pintar sebuah model, tetapi juga seberapa mampu industri membangun sistem yang dapat dipercaya, diawasi, dan dipertanggungjawabkan.
FAQ
- Apa itu invisible watermarking AI? Penanda digital yang ditanamkan ke dalam konten AI tanpa terlihat secara langsung oleh pengguna.
- Apa fungsi watermark seperti SynthID? Membantu mengidentifikasi dan mendeteksi konten yang dibuat atau diproses oleh sistem AI tertentu.
- Apa yang dimaksud AI Assurance? Bidang yang berfokus pada pengujian, evaluasi, keamanan, risiko, dan keandalan sistem kecerdasan buatan.
- Mengapa perbankan membutuhkan guardrails AI? Karena penggunaan AI dalam transaksi dan proses otomatis dapat menimbulkan risiko finansial apabila sistem bertindak keliru atau di luar batas yang ditentukan.
- Apakah watermarking dapat menghentikan deepfake? Tidak sepenuhnya. Watermarking merupakan salah satu lapisan verifikasi yang perlu dilengkapi provenance, deteksi manipulasi, pengawasan manusia, dan kebijakan platform.
