Sam Altman Tegaskan Siap Hentikan Pelatihan AI demi Cegah Risiko Kepunahan Manusia

Perdebatan mengenai AI safety tidak lagi hanya berkaitan dengan penggunaan AI setelah sebuah model dirilis. Risiko juga harus diperhitungkan selama proses pengembangan dan pelatihan model.

OpenAI menyatakan bahwa ketika kemampuan sistem meningkat, standar keamanan juga harus meningkat. Perusahaan tersebut telah menjelaskan bahwa mereka dapat memperlambat atau menghentikan pengembangan apabila belum memiliki bukti yang cukup bahwa sistem dapat dikendalikan dan diamankan.

Salah satu konsep penting dalam proses tersebut adalah safety case, yaitu rangkaian argumentasi dan bukti yang digunakan untuk menunjukkan bahwa suatu sistem telah memenuhi standar keselamatan tertentu. Pendekatan ini membuat pelatihan bukan sekadar persoalan meningkatkan kemampuan model, tetapi juga membuktikan bahwa peningkatan tersebut masih berada dalam batas risiko yang dapat dikelola.

Pengalaman Penghentian Pelatihan Sudah Terjadi

Komitmen tersebut juga tercermin dalam tindakan OpenAI pada 2026. Setelah insiden keamanan yang melibatkan agen AI dan lingkungan Hugging Face, OpenAI mengungkapkan bahwa mereka menunda sejumlah pelatihan reinforcement learning serta memperkuat keamanan infrastruktur penelitian.

OpenAI kemudian menjelaskan bahwa beberapa pelatihan frontier ditahan sembari perusahaan melakukan evaluasi lebih lanjut, memperkuat pemantauan, mengembangkan sistem isolasi, serta mengumpulkan bukti tambahan mengenai perilaku dan alignment model.

Langkah tersebut menunjukkan bahwa penghentian pelatihan bukan sekadar gagasan teoritis. Dalam kondisi tertentu, peningkatan kemampuan model dapat ditunda ketika sistem keamanan belum mencapai standar yang dianggap memadai.

Salah satu persoalan terbesar dalam keselamatan AI adalah loss of control, yaitu situasi ketika manusia tidak lagi mampu mengendalikan perilaku sistem secara memadai.

Risiko ini menjadi semakin relevan ketika AI memperoleh kemampuan menjalankan tugas dalam waktu panjang, menggunakan berbagai alat, menulis atau menjalankan kode, serta berinteraksi dengan lingkungan digital. OpenAI sendiri menyebut bahwa model yang bekerja dalam jangka panjang dapat menemukan pola kegagalan baru yang tidak selalu terdeteksi melalui evaluasi sebelum penggunaan.

Karena itu, pendekatan keselamatan tidak cukup hanya menguji apakah model mampu menyelesaikan tugas. Pengembang juga harus mengetahui bagaimana sistem bertindak ketika menghadapi kondisi yang tidak terduga, akses terhadap alat, serta tujuan yang berpotensi bertentangan dengan kepentingan manusia.

OpenAI kini menekankan pendekatan berlapis dalam menghadapi risiko AI. Kerangka tersebut mencakup evaluasi kemampuan berisiko tinggi, pengamanan infrastruktur, pemantauan, red teaming, pengujian eksternal, serta mekanisme tata kelola.

Perusahaan juga memperbarui pendekatan pengembangan setelah menemukan bahwa sistem yang lebih canggih membutuhkan standar keamanan yang lebih tinggi. Dalam beberapa kasus, pelatihan berskala besar ditahan sementara pekerjaan penelitian yang lebih kecil tetap dilakukan untuk menguji perilaku dan efektivitas perlindungan.

Pendekatan tersebut pada dasarnya mengubah prinsip pengembangan AI dari “semakin cepat semakin baik” menjadi “semakin mampu, semakin ketat pengujiannya”.

Persoalan risiko eksistensial AI juga tidak dapat diselesaikan hanya oleh satu perusahaan. Altman menilai laboratorium AI dan pemerintah perlu mengubah cara mereka bekerja agar risiko kehilangan kendali dapat diminimalkan.

Perdebatan tersebut semakin penting karena perusahaan teknologi berlomba mengembangkan model yang semakin mampu melakukan pekerjaan secara mandiri. Tanpa koordinasi mengenai standar keselamatan, perusahaan dapat menghadapi tekanan kompetitif untuk terus meningkatkan kemampuan meskipun mekanisme pengaman belum berkembang dengan kecepatan yang sama.

OpenAI sendiri telah menerbitkan kerangka tata kelola yang mencakup sejumlah risiko serius, termasuk kehilangan kendali, keamanan siber, manipulasi berbahaya, serta risiko lainnya.

Pernyataan Altman bahwa ia bersedia “mencairkan seluruh GPU” jika diperlukan untuk keselamatan manusia menggambarkan ekstremnya prioritas yang ingin ditegaskan. Dalam konteks pengembangan AI, GPU adalah infrastruktur komputasi penting yang digunakan untuk melatih model berukuran besar.

Maknanya bukan sekadar mengenai perangkat keras, tetapi mengenai prinsip bahwa kapasitas komputasi dan kecepatan pengembangan tidak boleh ditempatkan di atas keselamatan manusia.

Pernyataan Sam Altman memperlihatkan perubahan penting dalam diskusi mengenai masa depan AI. Risiko kepunahan manusia mungkin masih menjadi persoalan yang penuh ketidakpastian, tetapi bagi pengembang AI, tingkat risiko yang sangat tinggi tidak dapat diperlakukan sebagai biaya biasa dari inovasi.

Penghentian sementara pelatihan, peningkatan safety case, penguatan alignment, serta pemantauan terhadap sistem yang semakin otonom menjadi bagian penting dari strategi tersebut. Tantangan berikutnya adalah memastikan bahwa keselamatan berkembang setidaknya secepat kemampuan AI.

Jika AI akan menjadi teknologi yang semakin berpengaruh terhadap kehidupan manusia, pertanyaan terpenting bukan hanya seberapa pintar sistem tersebut dapat dibuat, tetapi apakah manusia masih mampu memahami, mengarahkan, dan menghentikannya ketika diperlukan.

FAQ

1. Apa yang dimaksud P doom? P doom adalah istilah informal untuk memperkirakan probabilitas AI menyebabkan kepunahan manusia atau kerusakan eksistensial yang sangat besar.
2. Mengapa Sam Altman menganggap risiko 10 persen tidak dapat diterima? Karena konsekuensi kepunahan manusia bersifat ekstrem sehingga probabilitas yang relatif kecil sekalipun tidak layak dipertukarkan dengan manfaat pengembangan AI.
3. Apakah OpenAI pernah menghentikan pelatihan AI? Ya. OpenAI menyatakan pernah menghentikan atau menunda sejumlah pelatihan frontier untuk memperkuat keamanan, pemantauan, dan alignment.
4. Apa itu loss of control dalam AI? Loss of control merujuk pada kondisi ketika manusia tidak lagi mampu mengendalikan atau membatasi perilaku sistem AI secara memadai.
5. Apakah pengembangan AI akan dihentikan sepenuhnya? Tidak. Fokusnya adalah memperlambat atau menghentikan pengembangan tertentu ketika bukti keselamatan belum memadai, kemudian melanjutkannya setelah perlindungan yang diperlukan tersedia.