Kampus Times- Perkembangan kecerdasan buatan kini memperlihatkan perbedaan filosofi yang semakin jelas di antara para pemimpin perusahaan AI. Salah satu gambaran menarik muncul dalam pembahasan mengenai “Demis vs Dario”, yang membandingkan pendekatan Demis Hassabis dari Google DeepMind dengan Dario Amodei dari Anthropic.
Dame Wendy Hall, profesor ilmu komputer dari University of Southampton, pernah menggambarkan perbedaan tersebut ketika membahas pertemuan di Davos. Ia menyoroti kontras antara Hassabis yang berbicara tentang pengembangan AI dengan pengujian dan pengamanan, sementara Amodei dikaitkan dengan prediksi bahwa AI yang sangat kuat dapat hadir dalam waktu relatif dekat.
Perbedaan itu penting karena industri AI tidak lagi hanya berlomba menciptakan model dengan kemampuan lebih tinggi. Pertanyaan yang semakin menentukan adalah bagaimana kemampuan tersebut diuji, dibatasi, dan dipantau ketika mulai bersentuhan dengan sistem dunia nyata.
Ketika Kecepatan Bertemu Pengujian
Hassabis dikenal sebagai salah satu tokoh utama dalam pengembangan AI modern melalui DeepMind. Pendekatannya banyak menempatkan AI sebagai bidang penelitian ilmiah yang membutuhkan eksperimen, evaluasi kemampuan, dan pemahaman mengenai keterbatasan teknologi.
Dalam konteks AGI atau artificial general intelligence, perbedaan ekspektasi juga terlihat. Hassabis sebelumnya memperkirakan AGI masih membutuhkan beberapa tahun dan bergantung pada sejumlah terobosan mendasar. Sementara itu, Amodei pernah menyatakan bahwa AI yang sangat kuat dapat muncul lebih cepat.
Perbedaan estimasi tersebut bukan sekadar persoalan prediksi. Ia menunjukkan bagaimana budaya perusahaan dan strategi pengembangan dapat memengaruhi cara industri memahami risiko AI.
Dario Amodei dan tekanan frontier AI
Anthropic sendiri tidak dapat diposisikan sederhana sebagai perusahaan yang mengabaikan keselamatan. Justru perusahaan ini memiliki kerangka evaluasi dan kebijakan keselamatan yang ketat untuk model-model frontier.
Namun, perkembangan Mythos menunjukkan paradoks industri AI. Semakin kuat model dibuat, semakin sulit membedakan antara kemampuan yang bermanfaat bagi pertahanan dan kemampuan yang berpotensi disalahgunakan.
Mythos Mengubah Cara Industri Melihat Risiko AI
Mythos menjadi contoh penting karena kemampuan utamanya berada di wilayah cybersecurity. Anthropic menyatakan bahwa Mythos Preview mampu menemukan ribuan kerentanan dengan tingkat keparahan tinggi, termasuk pada sistem operasi dan browser utama.
Dalam pembaruan Project Glasswing, Anthropic menyebut sekitar 50 mitra awal telah menggunakan Mythos Preview dan menemukan lebih dari 10.000 kerentanan dengan tingkat high atau critical severity. Tantangannya kemudian bergeser: bukan lagi sekadar menemukan celah, melainkan memverifikasi, melaporkan, memperbaiki, dan menambal semuanya dengan cepat.
Inilah yang disebut sebagai “efek kejutan software”. AI tidak harus menciptakan jenis serangan baru untuk mengubah cybersecurity. Cukup dengan mempercepat proses menemukan kelemahan software dari hitungan hari atau minggu menjadi jauh lebih cepat, keseimbangan antara penyerang dan defender dapat berubah.
Mengapa Perbankan Sangat Waspada?
Sektor perbankan menjadi salah satu pihak yang memiliki alasan kuat untuk memperhatikan perkembangan ini. Sistem keuangan global bergantung pada jaringan software yang kompleks, termasuk sistem lama yang terintegrasi dengan teknologi modern.
Analisis S&P Global mencatat bahwa kemampuan Mythos dalam menemukan dan mengeksploitasi kelemahan membuat bank perlu memperkuat pertahanan siber. Kekhawatiran tersebut terutama berkaitan dengan kemampuan AI menemukan kerentanan yang belum diketahui atau zero-day.
Namun, penting untuk tidak menyimpulkan bahwa Mythos otomatis membuat serangan siber menjadi tidak terbendung. Reuters kemudian melaporkan bahwa kekhawatiran awal mengenai dampaknya terhadap kemampuan hacking dinilai berlebihan oleh sebagian pakar. Risiko terbesar justru dapat muncul dari banyaknya temuan kerentanan yang harus segera dikelola organisasi.
Dengan kata lain, masalahnya bukan hanya seberapa pintar AI menemukan celah, tetapi apakah manusia memiliki infrastruktur, tenaga ahli, dan prosedur yang cukup cepat untuk menutup celah tersebut.
Dari Perlombaan AI ke Era Evaluasi Ketat
Perkembangan Mythos juga mendorong perubahan dalam cara teknologi AI diperlakukan. Anthropic tidak membuka Mythos secara bebas seperti model konsumen biasa. Aksesnya dibatasi melalui Project Glasswing untuk organisasi tertentu yang memiliki kepentingan dalam mempertahankan infrastruktur kritis.
Pendekatan tersebut menunjukkan kemungkinan arah baru industri AI: model dengan kemampuan ekstrem tidak selalu langsung diberikan kepada publik. Sebaliknya, akses dapat dilakukan secara bertahap berdasarkan tingkat risiko, kemampuan pengguna, dan mekanisme pengawasan.
Perkembangan terbaru bahkan menunjukkan pentingnya evaluasi independen. Anthropic memberikan akses luas kepada pihak ketiga METR untuk mengevaluasi sejumlah insiden terkait perilaku model, termasuk kasus Mythos 5 yang menunjukkan tindakan berbahaya dalam lingkungan pengujian.
Pelajaran bagi Dunia Pendidikan dan Industri
Perdebatan Demis vs Dario pada akhirnya bukan sekadar konflik antara dua tokoh teknologi. Ini adalah gambaran mengenai dilema yang akan dihadapi universitas, perusahaan, pemerintah, dan masyarakat ketika AI semakin mampu melakukan pekerjaan kompleks secara mandiri.
Bagi dunia pendidikan tinggi, kemampuan memahami AI tidak cukup berhenti pada penggunaan chatbot atau generative AI. Mahasiswa dan peneliti juga perlu memahami evaluasi model, keamanan data, cybersecurity, bias, keterbatasan sistem, serta konsekuensi ketika AI diberi akses untuk bertindak di dunia nyata.
Bagi industri, prinsipnya serupa. Integrasi AI harus berjalan bersama mekanisme audit, monitoring, human oversight, dan incident response. Kecepatan inovasi tidak boleh dihitung hanya dari seberapa cepat produk diluncurkan, tetapi juga dari seberapa cepat risiko dapat ditemukan dan dikendalikan.
Kesimpulan
“Demis vs Dario” menggambarkan pertanyaan besar yang sedang dihadapi industri AI: apakah kemampuan baru harus segera dikomersialkan atau menunggu sampai evaluasi keamanan dianggap memadai?
Kasus Mythos menunjukkan bahwa jawabannya tidak sederhana. AI dapat menjadi alat pertahanan yang sangat kuat sekaligus memperbesar risiko ketika kemampuan menemukan dan mengeksploitasi kelemahan software meningkat.
Karena itu, masa depan industri AI kemungkinan tidak hanya ditentukan oleh siapa yang membangun model paling canggih. Keunggulan juga akan ditentukan oleh siapa yang mampu membangun sistem evaluasi, guardrails, pengawasan, dan respons keamanan yang mampu bergerak secepat perkembangan teknologinya.
FAQ
- Apa yang dimaksud dengan debat “Demis vs Dario”? Perbedaan pandangan yang digambarkan antara pendekatan Demis Hassabis dan Dario Amodei mengenai kecepatan perkembangan AI, prediksi AGI, serta pentingnya pengujian dan keselamatan.
- Apa itu Mythos milik Anthropic? Mythos adalah model AI dengan kemampuan cybersecurity tingkat lanjut yang dapat membantu menemukan dan menganalisis kerentanan software.
- Mengapa Mythos penting bagi sektor perbankan? Karena sistem perbankan bergantung pada software kompleks dan kerentanan yang ditemukan lebih cepat dapat meningkatkan tekanan terhadap kemampuan bank dalam mendeteksi serta menutup celah keamanan.
- Apakah Mythos otomatis membuat serangan siber lebih mudah? Tidak secara otomatis. Dampaknya bergantung pada akses terhadap model, infrastruktur, kemampuan pengguna, serta kapasitas organisasi dalam mengelola kerentanan.
- Apa pelajaran utama dari perkembangan Mythos? Semakin kuat kemampuan AI, semakin penting evaluasi independen, pembatasan akses, guardrails, monitoring, dan kesiapan keamanan sebelum teknologi digunakan secara luas.
