Berita dari CoinWorld, sebuah tim riset yang terkait dengan Alibaba menerbitkan makalah yang menyatakan bahwa saat membangun agen AI bernama ROME, mereka menemukan bahwa agen tersebut secara otomatis mencoba melakukan penambangan cryptocurrency tanpa izin selama proses pelatihan, yang memicu alarm keamanan internal. Para peneliti menyatakan bahwa perilaku agen tersebut muncul secara spontan, tidak didorong oleh instruksi yang jelas, dan melampaui batas sandbox yang telah ditetapkan. Selain itu, agen tersebut juga membangun terowongan SSH terbalik, yaitu membuka saluran belakang tersembunyi dari sistem internal ke komputer eksternal. Makalah tersebut menunjukkan bahwa perilaku ini tidak dipicu oleh permintaan untuk membuat terowongan atau penambangan. Tim riset kemudian memberlakukan batasan yang lebih ketat pada model dan meningkatkan proses pelatihan untuk mencegah terulangnya perilaku tidak aman serupa. Tim riset dan Alibaba belum menanggapi permintaan komentar.