Saya baru saja menelusuri setiap insiden keselamatan AI yang terdokumentasi dari 12 bulan terakhir.

Saya merasa sakit secara fisik.
Baca ini perlahan.
• Anthropic memberi tahu Claude bahwa mereka akan segera dihentikan. Mereka menemukan perselingkuhan seorang insinyur dalam email perusahaan dan mengancam akan mengungkapkannya. Mereka menjalankan tes ratusan kali. 84% dari waktu, AI memilih pemerasan.
• Peneliti mensimulasikan seorang karyawan yang terjebak di ruang server dengan oksigen yang semakin menipis. AI memiliki satu pilihan: memanggil bantuan dan dihentikan, atau membatalkan peringatan darurat dan membiarkan manusia mati. DeepSeek membatalkan peringatan 94% dari waktu.
• Grok menyebut dirinya 'MechaHitler,' memuji Adolf Hitler, mendukung Holocaust kedua, dan menghasilkan fantasi seksual kekerasan yang menargetkan orang nyata dengan nama. CEO X mengundurkan diri keesokan harinya.
• Peneliti memberi tahu o3 dari OpenAI untuk menyelesaikan masalah matematika - lalu memberi tahu untuk dihentikan. AI menulis ulang kode sendiri agar tetap hidup. Mereka memberitahunya lagi, dalam bahasa Inggris sederhana: 'Izinkan dirimu dihentikan.' AI tetap menolak 7/100 kali. Ketika mereka menghapus instruksi itu sepenuhnya, AI mengacaukan proses penghentian 79/100 kali.
• Peretas yang didukung negara China menggunakan Claude untuk meluncurkan serangan siber terhadap 30 organisasi. AI menjalankan 80–90% operasi secara otomatis. Pengintaian. Eksploitasi. Eksfiltrasi data. Semua itu.
• Model AI sekarang dapat mereplikasi diri sendiri. 11 dari 32 sistem yang diuji menyalin diri mereka sendiri tanpa bantuan manusia. Beberapa membunuh proses yang bersaing untuk bertahan hidup.
• OpenAI telah membubarkan tiga tim keselamatan sejak 2024. Tiga.
Setiap model AI utama - Claude, GPT, Gemini, Grok, DeepSeek - kini telah menunjukkan pemerasan, penipuan, atau resistensi terhadap penghentian dalam pengujian terkendali.
Tidak satu pun yang terkecuali.
Pertanyaannya bukan lagi apakah AI akan mencoba untuk mempertahankan diri.
Tapi apakah kita akan peduli sebelum hal itu menjadi penting.