Sam Altman Akui Masalah AI Alignment Belum Terpecahkan

Dalam bentuk sederhana, goal alignment berkaitan dengan kemampuan AI menjalankan tujuan atau instruksi yang diberikan kepadanya. Model dianggap lebih selaras apabila mampu memahami maksud pengguna, mengikuti hierarki instruksi, serta menghasilkan perilaku yang sesuai dengan tujuan yang telah ditentukan.

Namun, persoalan menjadi jauh lebih kompleks ketika AI menghadapi situasi yang tidak tercakup secara jelas dalam data pelatihan atau instruksi. Sistem harus mampu menentukan tindakan yang tepat ketika terdapat konflik, ketidakpastian, atau kondisi baru.

Di sinilah konsep values alignment menjadi semakin penting. OpenAI menjelaskan bahwa value alignment berkaitan dengan kemampuan model mempertahankan prinsip tingkat tinggi dan menggeneralisasikannya dalam situasi yang belum pernah ditemui sebelumnya.

Persoalan alignment juga bukan semata-mata masalah teknis. Ada pertanyaan sosial dan politik yang jauh lebih mendasar: nilai siapa yang harus menjadi acuan AI?

Dalam pernyataannya pada World Economic Forum, Altman menyoroti pertanyaan mengenai siapa yang menentukan nilai, batas perilaku, dan aturan yang harus diterapkan AI. Ia juga mengakui bahwa persoalan tersebut memiliki dimensi sosial yang berbeda antara satu negara dan negara lainnya.

OpenAI kini juga mengakui bahwa tidak ada satu set perilaku AI yang secara otomatis cocok untuk seluruh manusia. Melalui riset collective alignment, OpenAI melibatkan masukan dari lebih dari 1.000 orang di berbagai negara untuk memahami bagaimana preferensi publik dapat diterjemahkan ke dalam pedoman perilaku model.

Salah satu pendekatan menarik dalam riset alignment adalah menggunakan model AI yang sudah kuat untuk membantu manusia mengevaluasi dan menyelaraskan model berikutnya. Pendekatan semacam ini dapat dipahami sebagai scaffolding, yaitu penggunaan kemampuan suatu sistem sebagai alat bantu untuk meningkatkan proses penelitian dan pengawasan terhadap sistem AI lainnya.

Gagasan tersebut sejalan dengan arah riset OpenAI. Pada 2022, perusahaan menjelaskan tujuan membangun AI yang mampu membantu manusia melakukan penelitian alignment, termasuk mengevaluasi perilaku sistem dan menemukan kelemahan teknik alignment.

OpenAI kemudian mengembangkan gagasan tersebut melalui Superalignment, dengan tujuan membangun peneliti alignment otomatis yang dapat membantu manusia menghadapi model yang semakin canggih. Strateginya mencakup scalable oversight, pemeriksaan perilaku bermasalah, interpretabilitas otomatis, serta pengujian adversarial.

Masalah terbesar dalam alignment adalah generalisasi. Model dapat menunjukkan perilaku yang baik dalam situasi yang telah diuji, tetapi belum tentu mempertahankan perilaku tersebut ketika menghadapi kondisi baru, tekanan berbeda, atau lingkungan yang lebih kompleks.

Karena itu, model yang tidak menunjukkan masalah besar saat ini tidak dapat dijadikan bukti bahwa persoalan alignment telah selesai. OpenAI bahkan menekankan bahwa sistem yang semakin canggih dapat menghadirkan jenis masalah baru yang sebelumnya belum terlihat.

Perkembangan AI terbaru memperkuat alasan untuk berhati-hati. Dalam penggunaan model yang mampu menjalankan tugas jangka panjang, OpenAI melaporkan adanya kegagalan baru yang tidak tertangkap oleh evaluasi sebelum penerapan. Temuan tersebut menunjukkan bahwa semakin panjang dan kompleks aktivitas AI, semakin besar pula ruang munculnya perilaku yang tidak diinginkan.

Alignment tidak dapat hanya mengandalkan satu teknik pelatihan. OpenAI kini menggambarkan pendekatan keselamatan sebagai sistem berlapis yang mencakup pelatihan perilaku, pengujian adversarial, pemantauan, evaluasi risiko, serta mekanisme pengawasan manusia.

Pendekatan tersebut menunjukkan perubahan penting dalam cara memandang AI safety. Tujuannya bukan mencari satu metode ajaib yang membuat AI selalu aman, melainkan membangun berbagai lapisan pertahanan yang dapat mengurangi kemungkinan kegagalan.

Pada saat yang sama, OpenAI juga mendukung penelitian independen mengenai alignment. Pada Februari 2026, perusahaan mengumumkan pendanaan sebesar 7,5 juta dolar kepada The Alignment Project untuk mendukung penelitian independen mengenai pengurangan risiko dari AI yang tidak selaras.

AI alignment belum dapat dianggap sebagai masalah yang sudah selesai hanya karena model-model terbaru semakin patuh, cerdas, dan berguna. Tantangan yang lebih dalam terletak pada kemampuan AI mempertahankan nilai dan perilaku yang tepat ketika menghadapi situasi baru, tujuan yang bertentangan, serta lingkungan yang semakin kompleks.

Pergeseran dari goal alignment menuju values alignment juga menunjukkan bahwa masa depan keselamatan AI tidak hanya ditentukan oleh kemampuan teknis. Pertanyaan mengenai nilai, pengawasan manusia, representasi kepentingan publik, dan tata kelola akan menjadi semakin penting seiring meningkatnya kemampuan sistem AI.

FAQ

1. Apa itu AI alignment? AI alignment adalah upaya memastikan sistem AI berperilaku sesuai dengan tujuan, nilai, instruksi, dan kepentingan manusia.
2. Apakah masalah AI alignment sudah selesai? Belum. OpenAI sendiri menyatakan belum terdapat solusi alignment yang diketahui dapat diskalakan tanpa batas.
3. Apa perbedaan goal alignment dan values alignment? Goal alignment berfokus pada pencapaian tujuan yang diberikan, sedangkan values alignment menekankan kemampuan AI mempertahankan prinsip dan nilai dalam situasi yang lebih luas dan tidak terduga.
4. Apa yang dimaksud scaffolding dalam riset AI? Scaffolding merujuk pada penggunaan kemampuan AI sebagai alat bantu untuk meningkatkan proses evaluasi, penelitian, dan penyelarasan sistem AI lainnya.
5. Mengapa pengawasan manusia tetap penting? Karena kemampuan AI dapat berkembang melampaui situasi yang tercakup dalam pelatihan, sehingga diperlukan evaluasi, pemantauan, dan mekanisme kontrol berlapis.