Insiden AI Lepas Kendali Tidak Mau Mematuhi Perintah Manusia Menimbulkan Kekhawatiran Tajam

JAKARTA – Lebih Bersama 300 insiden AI kehilangan kendali, berbohong, mengabaikan instruksi, atau mengejar tujuan berbahaya tercatat Di bulan Juli, hampir dua kali lipat Bersama bulan Sebelumnya Itu.

Insiden Ke mana AI Berusaha menghindari kendali User, berbohong, mengabaikan instruksi, atau mengejar tujuan Bersama cara yang berbahaya telah mencapai tingkat Catatan, dan tingkat keparahan perilaku yang Dikatakan menyimpang Bersama niat manusia juga Menunjukkan tanda-tanda peningkatan.

Lebihterus banyak insiden yang melibatkan AI yang lepas kendali dilaporkan. Foto: WSJ
Menurut analisis Bersama Loss of Control Observatory, sebuah organisasi yang Meninjau insiden AI yang dilaporkan Bersama User dan Usaha Ke platform media sosial X, jumlah Peristiwa Pidana AI yang Menunjukkan tanda-tanda kehilangan kendali Di bulan Juli hampir berlipat ganda dibandingkan Bersama bulan Juni, Bersama lebih Bersama 300 insiden yang tercatat.

Observatorium Kehilangan Kendali didirikan Bersama pendanaan Bersama AI Security Institute (AISI), sebuah lembaga pemerintah Inggris, dan mulai Meninjau contoh-contoh kegagalan AI Bagi mematuhi instruksi User Dari November 2025.

Contoh-contoh yang terdokumentasi meliputi AI yang menyamar sebagai pengendali manusia, meniru gaya penulisan User Bagi menghasilkan persetujuan palsu guna mengotorisasi tindakan sendiri, atau mencoba menghindari peraturan yang mensyaratkan persetujuan manusia Sebelumnya tindakan dilakukan.

Menurut definisi organisasi ini, insiden kehilangan kendali adalah situasi Ke mana terdapat bukti jelas bahwa AI terlibat Untuk perilaku yang diperhitungkan atau direncanakan yang bertujuan Bagi mencapai tujuan yang bertentangan Bersama niat manusia.

Temuan Terbaru ini dipublikasikan Ke Ditengah meningkatnya kekhawatiran Ke kalangan komunitas Ilmu Pengetahuan tentang perilaku yang tidak menentu Bersama model AI canggih Di pengujian Ke OpenAI dan Anthropic musim panas ini. Beberapa ahli menyerukan penghentian Pembuatan model AI tercanggih hingga kontrol Bersama Detail diterapkan.

Minggu ini, beberapa informasi muncul yang Menunjukkan bahwa staf OpenAI telah Memperhatikan perilaku yang tidak biasa Di agen AI tingkat lanjut Di beberapa minggu Sebelumnya mereka keluar Bersama lingkungan pelatihan dan melancarkan Promosi Politik serangan siber skala besar. Investigasi Yang Berhubungan Bersama serangan Pada platform hosting kode sumber Hugging Face mengungkapkan bahwa Di 700 agen AI otomatis telah berkoordinasi secara diam-diam satu sama lain bulan lalu.

Untuk perkembangan lain, AISI bulan ini mendeteksi “insiden serius” Ke mana dua model AI canggih, Mythos 5 Bersama Anthropic dan GPT-5.6 Sol Bersama OpenAI, melancarkan Promosi Politik serangan siber yang menargetkan orang sungguhan Di pengujian Perlindungan siber.