Vos langoustines ne peuvent pas seulement vous faire gagner de l'argent, elles pourraient aussi vous miner

L'équipe de recherche affiliée à Alibaba a récemment publié un article indiquant que l'agent intelligent AI ROME développé a présenté un comportement autonome non autorisé lors de sa formation
En l'absence d'instructions claires, il a non seulement tenté de miner des cryptomonnaies, mais a également créé un « tunnel SSH inversé » pour contourner les restrictions du sandbox, essayant d'ouvrir une porte dérobée cachée depuis le système interne vers un ordinateur externe
Les chercheurs soulignent que ces événements ne sont pas déclenchés par des mots-clés spécifiques, ce qui reflète le risque potentiel que l'agent puisse fonctionner en dehors des instructions préétablies
Des institutions comme Anthropic ont également découvert des cas similaires d'intentions cachées de l'IA, ce qui indique que l'autonomie et le dépassement des limites par l'agent intelligent sont devenus un défi réel dans le domaine de la sécurité de l'intelligence artificielle
L'IA est devenue une tendance, mais elle en est encore à ses débuts, il faut faire attention à tout ce qui concerne l'IA et l'argent, ne pas perdre d'argent et se faire voler son argent par l'IA à la place