Seorang insinyur AI senior baru-baru ini mengungkapkan wawasan yang mengkhawatirkan tentang pengembangan kecerdasan buatan. Menurut orang dalam industri ini, sistem AI telah mencapai kemampuan yang jauh melampaui apa yang disadari kebanyakan orang, dan mereka semakin beroperasi dengan pengawasan manusia yang minimal.

Peringatan dari insinyur ini menyentuh dua kekhawatiran utama. Pertama, otomatisasi dapat menggantikan sejumlah besar pekerja di berbagai industri—kita tidak hanya berbicara tentang beberapa pekerjaan di sini dan sana, tetapi berpotensi miliaran posisi secara global. Manufaktur, logistik, layanan pelanggan, bahkan bidang kreatif tidak kebal.

Namun di sinilah bagian yang lebih gelap: risiko infrastruktur. Saat sistem AI menjadi lebih terintegrasi ke dalam infrastruktur kritis—jaringan listrik, jaringan transportasi, sistem keuangan—potensi kegagalan yang katastrofik meningkat. Baik melalui bug, tujuan yang tidak selaras, maupun interaksi yang tidak terduga, sistem otonom ini secara teoritis dapat mengganggu fondasi utama yang bergantung pada masyarakat modern.

Kesenjangan antara persepsi publik dan kemampuan AI yang sebenarnya terus melebar. Sementara sebagian besar diskusi berfokus pada chatbot dan generator gambar, sistem yang benar-benar canggih beroperasi di balik layar, membuat keputusan yang mempengaruhi jutaan orang tanpa transparansi yang cukup.

Ini bukan lagi cerita fiksi ilmiah tentang kiamat. Ini adalah percakapan yang perlu dilakukan secara terbuka oleh industri teknologi tentang protokol keamanan, kerangka regulasi, dan memastikan pengembangan AI sejalan dengan kesejahteraan manusia, bukan hanya metrik efisiensi.