Vitalik fait une déclaration incroyable ! Plus on est intelligent, plus c'est dangereux, les règles stupides peuvent sauver les intelligents.

Le fondateur d'Ethereum, Vitalik Buterin, a souligné dans son dernier article “Galaxy Brain Resistance” que les personnes plus intelligentes sont plus susceptibles de tomber dans des pièges de pensée, utilisant leur intelligence pour justifier des comportements immoraux. Il recommande de revenir à des principes moraux simples pour résister à l'auto-tromperie de type Galaxy Brain. Le terme Galaxy Brain provient de mèmes Internet, utilisé pour louer des idées brillantes, mais est devenu une ironie pour désigner un comportement de “trop réfléchir”.

Piège de l'Intelligence Galactique : L'auto-tromperie des gens intelligents

La traduction de “Galaxy Brain” en chinois est « 银河大脑 », mais cela provient en réalité d'un mème Internet, semblable à une image de plusieurs cerveaux lumineux empilés. Au départ, c'était bien sûr un terme positif, utilisé pour complimenter l'idée de quelqu'un comme étant très brillante, c'est-à-dire intelligente. Mais plus tard, avec l'abondance de son utilisation, cela a progressivement évolué vers une certaine ironie, signifiant à peu près « trop réfléchir, la logique s'étend trop loin ».

Vitalik mentionne ici le “cerveau galactique”, se référant à ce comportement qui consiste à “faire des gymnastiques mentales avec une intelligence élevée pour justifier des choses illogiques”. Par exemple : il est évident qu'il s'agit de licenciements massifs pour économiser de l'argent, mais on insiste pour dire que c'est “pour fournir des talents de haute qualité à la société” ; il est clair que c'est une arnaque avec des tokens sans valeur, mais on prétend que c'est “pour autonomiser l'économie mondiale grâce à une gouvernance décentralisée”. Tout cela peut être considéré comme une pensée de type “cerveau galactique”.

Le concept de résistance est facile à perdre de vue, et on peut le comparer à l'expression populaire « la capacité à ne pas se faire manipuler » ou « la capacité à ne pas se laisser berner ». Ainsi, la résistance Galaxy Brain devrait être interprétée comme la résistance à devenir un Galaxy Brain, c'est-à-dire : « la capacité à résister à (devenir) un cerveau galactique (absurde) ». Ou, plus précisément, elle décrit à quel point il est facile ou difficile d'abuser d'un certain style de pensée ou d'argumentation pour « prouver n'importe quelle conclusion que vous souhaitez ».

Cette “résistance” peut être dirigée contre une certaine “théorie”. La théorie de faible résistance (Low Resistance) : après un léger examen, elle peut évoluer en une logique extrêmement absurde de “cerveau galactique”. La théorie de haute résistance (High Resistance) : peu importe comment vous l'examinez, elle reste inchangée, difficile à transformer en une logique absurde. Par exemple, Vitalik dit que la loi sociale idéale devrait avoir une ligne rouge : on ne peut interdire un comportement que si on peut expliquer clairement comment il cause du tort ou du risque à des victimes spécifiques. Ce critère a une forte résistance Galaxy Brain, car il n'accepte pas des raisons floues ou extensibles telles que “je n'aime pas subjectivement” ou “c'est immorale”.

Les dangers du long-termisme : un prétexte universel prolongé indéfiniment

Vitalik a cité de nombreux exemples dans son article, y compris des théories que nous entendons souvent, comme le “long-termisme” et le “nécessitarisme”. Le “long-termisme” est difficile à résister à l'érosion de la pensée de type cerveau galactique, car sa résistance est extrêmement faible, c'est presque un “chèque en blanc”. Parce que le “futur” est trop lointain et trop flou.

Déclaration à haute résistance : « Cet arbre pourra atteindre 5 mètres de hauteur dans 10 ans. » Cela peut être vérifié et il est difficile de dire des bêtises. La « pensée à long terme » à faible résistance : « Bien que je fasse actuellement quelque chose de très immoral (comme éliminer une partie de la population ou déclencher une guerre), c'est pour que l'humanité puisse vivre une vie utopique dans 500 ans. D'après mes calculs, le bonheur total futur est infini, donc les sacrifices actuels sont négligeables. »

Regarde, tant que tu étends le temps suffisamment longtemps, tu peux justifier n'importe quel acte malveillant du moment. Comme l'a dit Vitalik : « Si ton argument peut prouver que n'importe quoi est justifié, alors ton argument ne prouve rien du tout. » Cependant, Vitalik admet aussi que « le long terme est important », il critique « l'utilisation de bénéfices futurs excessivement vagues et non vérifiables pour masquer les dommages clairs du moment. »

Dans le domaine des cryptomonnaies, ce discours de long terme est extrêmement courant. De nombreux projets, lorsqu'ils sont critiqués pour leur modèle économique de jetons irrationnel ou lorsque l'équipe vend massivement, se défendent en disant “nous planifions pour la vision de 10 ans à venir”. Lorsque les investisseurs subissent une perte de 90 %, les porteurs de projet disent “c'est un nettoyage de marché inévitable en période de bear market, les détenteurs à long terme finiront par être récompensés”. Ces discours exploitent l'invérifiabilité du “long terme”, rendant difficile la réfutation des critiques.

Déterminisme : La technique d'évasion de responsabilité la plus parfaite

Un autre point névralgique est le « déterminisme » (Inevitabilism). C'est aussi la défense préférée de la Silicon Valley et du secteur technologique. Le discours est le suivant : « L'IA remplace le travail humain est une nécessité historique, même si je ne le fais pas, d'autres le feront. Donc, je développe l'IA de manière radicale non pas pour gagner de l'argent, mais pour suivre le courant historique. »

Où se trouve la faible résistance ? Cela dissout parfaitement le sens des responsabilités des gens. Puisque c'est “inévitable”, je n'ai donc pas besoin de rendre des comptes pour les destructions que j'ai causées. C'est aussi un exemple typique du cerveau galactique : transformer le désir égoïste de “je veux gagner de l'argent / je veux avoir du pouvoir” en “je suis en train d'exécuter une mission historique”.

Dans le domaine de Web3, le discours du déterminisme est également omniprésent. “La révolution blockchain est inévitable, les systèmes centralisés s'effondreront” - ce type d'argument fournit une excuse à divers comportements radicaux. Émettre des jetons à forte inflation ? Pas de problème, car l'effondrement des monnaies fiduciaires est inévitable. Ignorer les audits de sécurité pour un lancement rapide ? Pas de problème, car “move fast and break things” est le chemin inévitable de l'innovation. Ces justifications exploitent l'infalsifiabilité de l'“inévitable”.

Les deux principales caractéristiques de la théorie de la faible résistance

Durée prolongée : Élever les critères de jugement à un futur lointain, rendant les actions présentes impossibles à vérifier.

Dissolution de la responsabilité : Transformer les choix individuels en nécessité historique pour échapper à la responsabilité morale.

Règles de haute résistance : retour aux lois morales strictes de la maternelle

Face à ces « pièges des gens intelligents », Vitalik propose un remède étonnamment simple, voire un peu « bête ». Il estime que plus les gens sont intelligents, plus ils ont besoin de règles à haute résistance pour se contraindre et éviter de se laisser emporter par leur ingénierie mentale. Premièrement, s'en tenir à l'« éthique déontologique », c'est-à-dire aux règles morales de niveau jardin d'enfants.

Ne vous embêtez pas à calculer des équations mathématiques complexes pour « l'avenir de l'humanité », revenez aux principes les plus rigides : ne volez pas, ne tuez pas d'innocents, ne fraudulez pas, respectez la liberté des autres. Ces règles sont extrêmement résistantes, car elles sont noires ou blanches, il n'y a pas de négociation. Lorsque vous essayez d'expliquer pourquoi vous détournez les fonds des utilisateurs avec le grand principe du « long-termisme », cette règle rigide de « ne pas voler » vous frappe directement au visage : avoir volé, c'est avoir volé, ne parlez pas de grande révolution financière.

Cette recommandation de revenir à des règles simples est philosophiquement appelée éthique déontologique. Contrairement à l'utilitarisme (qui calcule la maximisation du bonheur global), la déontologie souligne que certaines actions sont intrinsèquement bonnes ou mauvaises, indépendamment des conséquences. Ne pas tuer signifie ne pas tuer, et cela ne devient pas justifiable parce qu'on pourrait « tuer une personne pour en sauver cent ». Cette absoluité confère à la déontologie une résistance extrêmement élevée au Galaxy Brain.

Haute résistance aux lois morales

Ne volez pas : peu importe la noblesse des raisons, détournement de fonds est du vol

Ne tuez pas des innocents : il est inacceptable de justifier le mal actuel par des « intérêts à long terme ».

Ne pas escroquer : peu importe la beauté de l'emballage, la publicité mensongère est une escroquerie.

Respectez la liberté des autres : on ne peut pas forcer les autres à accepter son choix en raison d'une “tendance inéluctable”.

Impact de l'environnement physique : Ne pas vivre dans la région de la baie de San Francisco

Deuxièmement, détenir la bonne “position”, y compris la position physique. Comme le dit le proverbe, le derrière détermine la tête. Si vous traînez tous les jours dans cette chambre d'écho de la région de la baie de San Francisco, entouré de personnes qui font du transhumanisme axé sur l'IA, il vous sera difficile de rester lucide. Vitalik a même donné un conseil de haute résistance au niveau physique : ne pas vivre dans la région de la baie de San Francisco.

Cette suggestion peut sembler être une blague, mais elle est en réalité profonde. Lorsque vous êtes entouré de points de vue homogènes, votre pensée tend à se rapprocher du groupe. La région de la baie de San Francisco, en tant que centre mondial d'innovation technologique, rassemble un grand nombre d'entrepreneurs et d'investisseurs dans les domaines de l'IA, des cryptomonnaies et de la biotechnologie. Ces personnes ont souvent une foi technologique extrêmement optimiste, croyant que la technologie peut résoudre tous les problèmes et que l'action rapide est plus importante qu'une évaluation prudente. Dans ce contexte, les voix critiques sont considérées comme “ne comprenant pas l'innovation” ou “conservatrices et rétrogrades”.

Le mécanisme par lequel la position physique influence la cognition a été confirmé par la psychologie sociale. Lorsque toutes les personnes que vous côtoyez quotidiennement font quelque chose, disent quelque chose, vous en venez à penser que c'est “normal” ou “correct”. La culture de la bulle de la Silicon Valley, la culture de la cupidité de Wall Street, et la culture de la tour d'ivoire du milieu académique, sont toutes des manifestations de cette pensée de groupe. La séparation physique suggérée par Vitalik est en réalité un moyen de diversifier la cognition : quitter la chambre d'écho, entrer en contact avec des personnes de différents horizons et de différentes valeurs, et maintenir l'indépendance de la pensée.

D'un point de vue pratique de Web3, de nombreux fondateurs de projets réussis ont effectivement choisi de s'éloigner de la Silicon Valley. Vitalik lui-même voyage depuis des années à travers le monde, plutôt que d'être fixé dans un centre technologique particulier. Cette mobilité lui permet d'accéder à différentes cultures et perspectives, évitant ainsi de tomber dans la bulle de pensée d'un groupe unique.

Exemple de cerveau galactique dans le monde de la crypto

Le domaine des cryptomonnaies est rempli de défenses à la manière d'un cerveau galactique. Sam Bankman-Fried de FTX a utilisé l'“altruisme efficace” pour défendre ses comportements à haut risque, affirmant que détourner les fonds des utilisateurs pour des transactions à effet de levier élevé visait à gagner plus d'argent à donner à des œuvres caritatives. Do Kwon de Terra/LUNA a défendu son modèle économique non durable avec l'“innovation financière des stablecoins algorithmiques”. Ce sont tous des cas typiques où des théories complexes masquent des méfaits simples.

L'article de Vitalik avertit essentiellement les élites extrêmement intelligentes : ne pensez pas qu'en raison de votre QI élevé, vous pouvez contourner les principes moraux simples. Les théories du “cerveau galactique” qui semblent capables d'expliquer tout sont souvent les excuses universelles les plus dangereuses. En revanche, les règles “hautes résistances” qui semblent rigides et dogmatiques sont la dernière ligne de défense pour nous empêcher de nous tromper nous-mêmes.

Pour les professionnels et les investisseurs en cryptomonnaie, cet article fournit un cadre cognitif important. Lorsque vous entendez un projet expliquer son comportement inhabituel avec des théories complexes, demandez-vous : s'agit-il d'une véritable innovation ou d'une forme d'auto-tromperie à la manière d'un cerveau galactique ? Lorsque vous essayez de justifier vos comportements spéculatifs, revenez aux règles les plus simples : cela respecte-t-il vraiment la ligne éthique ?