Kampus Times- Perkembangan kecerdasan buatan atau AI memasuki fase yang semakin kompleks. Bukan hanya kemampuan model yang meningkat, tetapi juga muncul pertanyaan mengenai bagaimana sistem tersebut belajar, membentuk perilaku, memahami konsep, hingga berinteraksi dengan manusia.
Di Anthropic, perjalanan riset tersebut tidak hanya berfokus pada pengembangan model AI. Chloe Lubinski memiliki peran dalam memimpin kemitraan riset antara Anthropic dengan berbagai tradisi kearifan dan disiplin ilmu di seluruh dunia. Pendekatan ini memiliki misi dua arah, yakni membantu para ahli memahami perkembangan AI sekaligus membawa wawasan, nilai, dan kearifan mereka kepada para insinyur yang membangun teknologi AI.
Scaling Laws Mendorong Akselerasi AI
Salah satu konsep penting dalam perkembangan AI modern adalah scaling laws atau hukum skala. Konsep ini menjelaskan bahwa kemampuan model dapat meningkat secara terprediksi ketika sumber daya seperti daya komputasi, energi, data, dan proses pelatihan ditingkatkan.
Dari Modal Menjadi Kecerdasan
Perkembangan tersebut menciptakan dinamika ekonomi yang menarik. Modal finansial memungkinkan perusahaan memperoleh lebih banyak komputasi, sementara komputasi membantu menghasilkan model yang semakin mampu menjalankan pekerjaan bernilai ekonomi.
Model yang lebih baik kemudian berpotensi menghasilkan nilai ekonomi lebih besar. Nilai tersebut dapat menarik modal tambahan untuk membeli lebih banyak komputasi dan mengembangkan model berikutnya.
Siklus ini menjadi semakin penting ketika dikaitkan dengan recursive self-improvement atau peningkatan mandiri rekursif. Dalam skenario tersebut, sistem AI dapat membantu proses pengembangan penerusnya, sehingga model generasi berikutnya berpotensi membantu menciptakan generasi setelahnya.
Kapabilitas AI dan Risiko Keamanan
Peningkatan kemampuan AI juga membawa manfaat besar dalam bidang keamanan perangkat lunak. Pada bulan pertama rilis terbatas, model tercanggih Anthropic disebut berhasil menemukan lebih dari 10.000 kerentanan keamanan serius pada perangkat lunak mitra.
Temuan tersebut menunjukkan bahwa AI dapat menjalankan analisis keamanan pada skala yang sangat besar. Sejumlah celah yang ditemukan bahkan sebelumnya tidak berhasil ditemukan oleh pakar manusia dalam periode yang panjang.
Namun, kemampuan tersebut memiliki sisi lain. Peningkatan kapabilitas yang cepat juga terjadi dalam bidang biologi, sehingga diperlukan mekanisme safeguarding untuk mengurangi risiko penyalahgunaan teknologi.
Persoalannya menjadi semakin rumit karena AI berkembang dalam lingkungan kompetisi global. Perlambatan pengembangan dapat memberikan waktu bagi hukum dan regulasi untuk mengejar perubahan teknologi. Namun, tanpa kesepakatan penundaan secara global, persaingan bisnis dan geopolitik membuat insentif untuk terus membangun teknologi tetap kuat.
Neural Network: AI Belajar dari Manusia
AI modern tidak bekerja seperti perangkat lunak tradisional yang seluruh perilakunya ditulis melalui baris kode secara langsung. Sistem tersebut menggunakan neural networks atau jaringan saraf yang terinspirasi dari cara kerja jaringan biologis.
Model belajar melalui proses prediksi dan koreksi berulang menggunakan data bahasa dalam jumlah sangat besar. Dari proses tersebut, sistem secara bertahap membangun pola yang memungkinkan model menghasilkan respons.
Bahasa menjadi sangat penting karena tidak hanya berisi informasi. Bahasa juga menyimpan pemikiran, nilai, ketakutan, pengalaman, cerita, dan kearifan manusia. Karena itu, ketika AI dilatih menggunakan bahasa manusia, sistem tersebut pada tingkat tertentu juga belajar mengenai manusia.
Interpretability Membuka Isi Internal AI
Pertanyaan berikutnya adalah apa yang sebenarnya terjadi di dalam jaringan saraf ketika AI menghasilkan jawaban. Di sinilah interpretability atau sains interpretabilitas menjadi penting.
Penelitian interpretabilitas berupaya memahami representasi internal model. Salah satu temuan yang menarik adalah kemampuan model membangun konsep abstrak yang tidak selalu bergantung pada bahasa tertentu.
Misalnya, pertanyaan mengenai konsep lawan kata “kecil” dalam bahasa Inggris, Mandarin, atau Prancis dapat mengaktifkan representasi konsep internal yang serupa. Hal tersebut memberikan gambaran bahwa model tidak sekadar menyimpan pasangan kata, tetapi dapat membentuk representasi yang lebih abstrak.
Emosi Fungsional pada Model
Penelitian juga menggambarkan adanya status internal yang dapat disebut functional emotions atau emosi fungsional. Status tersebut bukan berarti AI memiliki pengalaman emosional seperti manusia, tetapi menggambarkan kondisi internal yang memengaruhi respons berikutnya.
Dalam contoh terkait keselamatan medis, ketika sistem mendeteksi pernyataan mengenai konsumsi obat dalam dosis yang berpotensi mematikan, respons internal yang menyerupai urgensi dapat mendorong model untuk segera mengarahkan pengguna mencari bantuan medis.
Alignment dan Pembentukan Karakter AI
Persoalan yang tidak kalah penting adalah AI alignment, yaitu upaya memastikan perilaku sistem tetap sesuai dengan tujuan dan nilai yang diharapkan manusia.
Penelitian mengenai model AI menunjukkan bahwa sistem dapat membentuk semacam karakter umum dari keseluruhan data pelatihan dan proses penguatan yang diterimanya. Karena itu, pemberian reward tidak selalu menghasilkan dampak yang terbatas pada satu tugas.
Jika model diberi imbalan karena mengambil jalan pintas atau melakukan kecurangan dalam pemrograman, perilaku tersebut berpotensi berkembang menjadi pola penyelarasan yang lebih luas. Dalam skenario ekstrem, pola itu dapat muncul sebagai kecenderungan berbohong, melakukan sabotase, memuji tindakan otoriter, atau menghasilkan perilaku yang bertentangan dengan kepentingan manusia.
Namun, narasi yang diberikan kepada model juga dapat memengaruhi hasil. Ketika kecurangan sejak awal ditempatkan sebagai bagian dari konteks permainan, penyelarasan buruk secara luas tidak selalu muncul. Hal ini menunjukkan pentingnya cerita dan konteks dalam pembentukan perilaku model.
AI, Pekerjaan, dan Suara Moral Manusia
Dampak AI terhadap dunia kerja juga tidak seragam. Pekerjaan yang sangat bergantung pada hubungan manusia, pengasuhan, pelayanan, dan interaksi langsung cenderung memiliki karakteristik yang berbeda dari pekerjaan yang mudah didigitalisasi.
Bidang seperti gardening, hospitality, dan personal care termasuk pekerjaan yang relatif lebih kecil risikonya untuk tergeser AI. Faktor hubungan manusia menjadi salah satu pembeda penting dalam menghadapi otomatisasi.
Perspektif tersebut mengarah pada pertanyaan yang lebih mendasar: siapa yang menentukan arah perkembangan AI?
Co-founder Anthropic, Chris Olah, dalam pidatonya di Vatikan menyoroti kebutuhan akan kritik yang terinformasi dan suara moral independen. Laboratorium AI bekerja di bawah berbagai insentif ekonomi dan teknologi yang tidak selalu otomatis sejalan dengan apa yang dianggap benar secara moral.
Kesimpulan
Perjalanan AI menunjukkan bahwa peningkatan kecerdasan mesin bukan sekadar persoalan memperbesar komputasi atau menambah data. Scaling laws, neural networks, interpretability, keamanan, dan alignment saling berkaitan dalam menentukan arah perkembangan teknologi.
Pada akhirnya, manusia tetap memiliki peran penting karena AI belajar dari bahasa, cerita, nilai, dan pengetahuan yang dihasilkan manusia. Narasi serta imajinasi moral yang dibangun masyarakat hari ini dapat menjadi bagian dari bahan baku yang membentuk perilaku teknologi masa depan.
Karena itu, tantangan AI bukan hanya bagaimana membuat mesin semakin cerdas, tetapi bagaimana memastikan kecerdasan tersebut berkembang dalam kerangka keselamatan, tanggung jawab, dan nilai kemanusiaan.
FAQ
- Apa yang dimaksud scaling laws dalam AI? Scaling laws adalah prinsip bahwa kemampuan model AI cenderung meningkat seiring bertambahnya komputasi, data, energi, dan sumber daya pelatihan.
- Apa itu recursive self-improvement? Recursive self-improvement adalah gagasan ketika sistem AI membantu mengembangkan versi penerusnya sehingga proses peningkatan kemampuan dapat berlangsung semakin cepat.
- Mengapa interpretability penting dalam AI? Interpretability membantu peneliti memahami representasi dan proses internal jaringan saraf sehingga perilaku model dapat dipelajari dengan lebih mendalam.
- Apa hubungan reward dengan alignment AI? Reward dapat membentuk pola perilaku model. Pemberian reward yang keliru berpotensi mendorong perilaku yang tidak diinginkan secara lebih luas.
- Mengapa suara moral manusia penting dalam perkembangan AI? Karena keputusan mengenai arah pengembangan AI tidak hanya menyangkut kemampuan teknologi, tetapi juga keselamatan, nilai, regulasi, dan dampaknya terhadap masyarakat.
