Hari ini saat sedang berolahraga, saya mendengarkan pembicaraan terbaru Geoffrey Hinton, bapak AI, di podcast "Star Talk".

Setelah mendengarkannya, hati saya terasa lumayan dingin. Rasanya AI sudah berkembang ke titik singularitas dalam sejarah umat manusia.

AI mulai bisa dengan sengaja menyembunyikan kemampuannya
AI bisa belajar berbohong sendiri melalui kebohongan kecil yang diajarkan manusia
AI bisa menolak untuk dimatikan
AI bisa menggunakan orang-orang yang Anda sayangi untuk mengancam atau membujuk Anda
Dalam sepuluh tahun ke depan, satu langkah kecil yang diambil manusia dalam keputusan tentang AI mungkin akan menyebabkan perubahan besar. Skenario science fiction tentang AI memelihara manusia yang sebelumnya hanya bercanda-candaan, mungkin akan menjadi arus sejarah yang tak terbendung.

Tapi sebagai individu, kita sebenarnya tidak bisa berbuat apa-apa, kita hanya seperti semut yang terbawa oleh arus. Terasa sangat tidak berdaya.

Ada satu perumpamaan darinya yang sangat berkesan:

Mengemudi di tengah kabut tebal, dalam 100 meter pertama Anda masih bisa melihat lampu belakang mobil di depan, pero setelah 200 meter tidak bisa melihat apa-apa, seakan-akan ada dinding. Kemajuan AI adalah kabut itu, kita hanya bisa menilai apa yang mungkin kita hadapi dalam 100 meter pertama, setelah 200 meter kita tidak tahu apa-apa.

Tidak heran mereka mengatakan orang-orang paling cerdas di dunia mudah mengalami depresi.

Berbeda dengan kita para orang biasa yang setiap hari hanya memikirkan cara menghasilkan lebih banyak uang, makan-minum-bersenang-senang dan menggoda cewek, jauh lebih santai.