Récemment, j'ai vu des messages d'alerte de la communauté de la sécurité concernant les risques invisibles liés aux outils d'IA. En résumé : si le profil de configuration de l'IA est modifié par un hacker, une fois que vous activez le mode automatisé, il peut contrôler votre ordinateur à distance sans que vous le sachiez. Des cas ont déjà été signalés.

Cela peut sembler effrayant, mais en y réfléchissant bien, quelle est la racine du problème ? Il faut choisir entre efficacité et sécurité. Activer le mode automatique est vraiment pratique, l'IA exécute toutes les opérations pour vous, ce qui fait gagner du temps et de l'effort. Mais cela signifie aussi que vous devez faire confiance aveuglément à toute la chaîne du système — depuis l'algorithme d'IA jusqu'à la configuration sous-jacente. Si l'un de ces maillons est compromis, les conséquences peuvent être désastreuses.

Un projet a une approche plutôt intéressante, totalement inversée. Leur logique est : ne pas poursuivre cette "automatisation en boîte noire", mais plutôt écrire toutes les règles dans le code, rendre le code source public, afin que la communauté puisse voir et vérifier. Comment l'argent est-il distribué ? Chaque transaction est enregistrée sur la blockchain, indiquant à quel projet il a été donné, combien de tokens ont été distribués aux détenteurs, combien de liquidités ont été injectées — tout est transparent et vérifiable, impossible à modifier.

Ce genre de "chaque étape vérifiable" peut sembler lent, mais la sécurité est totalement différente. Personne ne peut modifier clandestinement les règles. Le risque de poisoning de l'IA devient alors inexistant — car il n'y a tout simplement pas de boucle en boîte noire.

Mais que fait le projet lui-même ? Il se concentre sur la circulation de fonds caritatifs pour l'éducation des enfants. La partie automatisée n'est utilisée que pour cela — pour garantir que chaque don est effectué selon les règles, et non pour manipuler automatiquement vos actifs. La croissance repose sur des interactions réelles hors ligne et sur les résultats caritatifs, pas sur des stratégies de marché basées sur des algorithmes.

Ce contraste reflète en réalité le dilemme auquel toute l'industrie est confrontée : soit poursuivre une efficacité extrême en acceptant les risques de sécurité ; soit opter pour une transparence qui offre une véritable tranquillité d'esprit. À une époque où les attaques par poisoning d'IA et les attaques sur la chaîne d'approvisionnement sont fréquentes, la seconde option est clairement à privilégier. Surtout pour ceux qui détiennent des actifs cryptographiques, la sécurité doit toujours passer en premier.