Un grand merci à Morgan Beller, Juan Benet, Eli Dourado, Karl Floersch, Sriram Krishnan, Nate Soares, Jaan Tallinn, Vincent Weisser, les bénévoles de Gate et d'autres pour leurs commentaires et leurs avis.

Le mois dernier, Marc Andreessen a publié son “manifeste techno-optimiste«, plaidant pour un enthousiasme renouvelé à propos de la technologie, et pour les marchés et le capitalisme comme moyen de construire cette technologie et de propulser l'humanité vers un avenir beaucoup plus radieux. Le manifeste rejette sans équivoque ce qu'il décrit comme une idéologie de stagnation, qui craint les avancées et privilégie la préservation du monde tel qu'il existe aujourd'hui. Ce manifeste a reçu beaucoup d'attention, y compris des articles de réponse de Noah Smith, Robin Hanson, Joshua Gans(plus positif), etDave Karpf, Luca Ropek, Ezra Klein(plus négatif) et bien d'autres. Non lié à ce manifeste, mais sur des thèmes similaires, on retrouve James PethokoukisLe conservateur futuristeet le "de Palladium"Il est temps de construire pour le bienCe mois-ci, nous avons assisté à un débat similaire joué à travers le Litige OpenAI, qui a impliqué de nombreuses discussions centrées sur les dangers de l'IA superintelligente et la possibilité qu'OpenAI avance trop rapidement.

Mes propres sentiments à propos de l'optimisme technologique sont chaleureux, mais nuancés. Je crois en un avenir bien plus lumineux que le présent grâce à une technologie radicalement transformative, et je crois en l'homme et en l'humanité. Je rejette la mentalité selon laquelle nous devrions simplement essayer de maintenir le monde à peu près tel qu'il est aujourd'hui, mais avec moins de cupidité et plus de soins de santé publics. Cependant, je pense que non seulement l'ampleur mais aussi la direction sont importantes. Il existe certains types de technologie qui rendent le monde bien meilleur de manière beaucoup plus fiable que d'autres types de technologie. Il existe certains types de technologie qui pourraient, s'ils étaient développés, atténuer les impacts négatifs d'autres types de technologie. Le monde surenchérit sur certaines directions du développement technologique et sous-enchérit sur d'autres. Nous avons besoin d'une intention humaine active pour choisir les directions que nous voulons, car la formule du 'maximiser le profit' n'y parviendra pas automatiquement.

Dans ce post, je vais parler de ce que le techno-optimisme signifie pour moi. Cela inclut la vision du monde plus large qui motive mon travail sur certains types d'applications de blockchain et de cryptographie et de technologie sociale, ainsi que d'autres domaines de la science pour lesquels j'ai manifesté un intérêt. Mais les perspectives sur cette question plus large ont également des implications pour l'IA et pour de nombreux autres domaines. Nos avancées rapides en technologie sont susceptibles d'être le problème social le plus important du XXIe siècle, il est donc important d'y réfléchir attentivement.

Table des matières

• La technologie est incroyable, et les coûts de retard sont très élevés
  • L'environnement et l'importance de l'intention coordonnée
• L'IA est fondamentalement différente des autres technologies, et il vaut la peine d'être particulièrement prudent
  • Le risque existentiel est une grosse affaire
  • Même si nous survivons, est-ce un avenir d'intelligence artificielle superintelligente un monde dans lequel nous voulons vivre ?
  • Le ciel est proche, l'empereur est partout
• d/acc: Accélération défensive (ou décentralisation, ou différentielle)
  • Les mondes favorables à la défense aident à promouvoir une gouvernance saine et démocratique
  • Défense physique macro
  • Micro défense physique (alias bio)
  • Défense cybernétique, blockchains et cryptographie
  • Défense d'information
  • La technologie sociale au-delà du cadre de la "défense"
• Alors, quels sont les chemins à suivre pour la superintelligence?
  • Un chemin joyeux: fusionner avec les AIs?
• Est-ce que d/acc est compatible avec votre philosophie existante?
• Nous sommes l'étoile la plus brillante

La technologie est incroyable, et il y a des coûts très élevés à la retarder

Dans certains milieux, il est courant de minimiser les avantages de la technologie et de la considérer principalement comme une source de dystopie et de risque. Au cours des cinquante dernières années, cela découlait souvent de préoccupations environnementales ou du souci que les avantages ne profiteraient qu'aux riches, qui consolideraient leur pouvoir sur les pauvres. Plus récemment, j'ai également commencé à voir des libertariens s'inquiéter de certaines technologies, de peur que la technologie ne conduise à une centralisation du pouvoir. Ce mois-ci, j'ai quelques sondagesposant la question suivante : si une technologie devait être restreinte, parce qu'elle était trop dangereuse pour être mise librement à la disposition de tous, préféreraient-ils qu'elle soit monopolisée ou retardée de dix ans ? J'ai été surpris de voir, sur trois plateformes et trois choix de qui serait le monopole, un vote uniformément écrasant en faveur d'un retard.

Et donc parfois, je crains que nous ayons trop corrigé et que de nombreuses personnes manquent le côté opposé de l'argument : que le avantages de la technologiesontvraiment énorme, sur ces axes où nous pouvons le mesurer, le bien l'emporte massivement sur le mal, et les coûts même d'une décennie de retard sont incroyablement élevés.

Pour donner un exemple concret, regardons un tableau de l'espérance de vie :

Que voyons-nous? Au cours du dernier siècle, des progrès vraiment massifs. Cela est vrai dans le monde entier, à la fois dans les régions historiquement riches et dominantes et dans les régions pauvres et exploitées.

Certains accusent la technologie de créer ou d'aggraver des calamités telles que le totalitarisme et les guerres. En fait, nous pouvons voir les décès causés par les guerres sur les graphiques : un dans les années 1910 (WW1), et un dans les années 1940 (WW2). Si vous regardez attentivement, la grippe espagnole, le Grand Bond en avant, et d'autres tragédies non militaires sont également visibles. Mais une chose est claire sur le graphique : même des calamités aussi horribles que celles-ci sont submergées par l'ampleur même de la marche incessante des améliorations dansnourriture, assainissement, médecineet l'infrastructure qui a eu lieu au cours de ce siècle.

Cela se reflète dans de grandes améliorations de notre vie quotidienne. Grâce à l'internet, la plupart des gens autour du mondeont accès à des informations qui leur auraient été inaccessibles il y a vingt ans. L'économie mondiale devient de plus en plus accessible grâce aux améliorations apportées aux paiements internationaux et à la finance. La pauvreté mondiale est chute rapide. Grâce aux cartes en ligne, nous n'avons plus à nous soucier de nous perdre en ville, et si vous avez besoin de rentrer chez vous rapidement, nous avons maintenant des moyens beaucoup plus faciles d'appeler une voiture pour le faire. Notre propriété devient numérisée, et notrebiens physiques devenant bon marché, cela signifie que nous avons beaucoup moins à craindre du vol physique. Les achats en ligne ont réduit l'écart d'accès aux biens entre les mégavilles mondiales et le reste du monde. De toutes sortes, l'automatisation nous a apporté l'avantage éternellement sous-estimé de simplement faire nos vies plus pratiques.

Ces améliorations, à la fois quantifiables et non quantifiables, sont importantes. Et au XXIe siècle, il y a de fortes chances que des améliorations encore plus importantes soient bientôt à venir. Aujourd'hui, mettre fin au vieillissement et aux maladies semble utopique. Mais du point de vue de ordinateurs tels qu'ils existaient en 1945, l'ère moderne de l'intégration de puces dans presque tout aurait semblé utopique : même les films de science-fiction conservaient souvent leurs ordinateurs de la taille d'une salle. Si la biotechnologie progresse autant au cours des 75 prochaines années que les ordinateurs ont progressé au cours des 75 dernières années, l'avenir pourrait être plus impressionnant que les attentes de presque tout le monde.

Pendant ce temps, les arguments exprimant le scepticisme quant aux progrès ont souvent pris des tournures sombres. Même les manuels de médecine, comme celui-ci dans les années 1990 (crédit Emma Szewczakpour le trouver), font parfois des affirmations extrêmes niant la valeur de deux siècles de science médicale et allant même jusqu'à affirmer qu'il n'est pas évident de sauver des vies humaines :

Le "limites de croissance"thèse, une idée avancée dans les années 1970 soutenant que la croissance de la population et de l'industrie finirait par épuiser les ressources limitées de la Terre, a fini par inspirerLa politique de l'enfant unique de la ChineetStérilisations forcées massives en Inde. Dans les époques précédentes, les préoccupations concernant la surpopulation étaient utilisées pour justifiermassemeurtre. Et ces idées, argumenté depuis 1798, ont une longue histoire de être prouvé tort.

C'est pour des raisons comme celles-ci que, en premier lieu, je me sens très mal à l'aise à l'idée de ralentir la technologie ou le progrès humain. Étant donné à quel point tous les secteurs sont interconnectés, même les ralentissements sectoriels comportent des risques. Ainsi, lorsque j'écris des choses comme ce que je dirai plus tard dans ce billet, m'éloignant de l'enthousiasme ouvert pour le progrès-peu-importe-sous-quel-forme, ce sont des déclarations que je fais le cœur lourd - et pourtant, le 21e siècle est suffisamment différent et unique pour que ces nuances méritent d'être prises en compte.

Cela dit, il existe un point important de nuance à apporter sur l'image plus large, en particulier lorsque nous passons au-delà de "la technologie dans son ensemble est bonne" et abordons le sujet de "quelles technologies spécifiques sont bonnes ?". Et ici, nous devons aborder la préoccupation principale de nombreuses personnes : l'environnement.

L'environnement et l'importance de l'intention coordonnée

Un exception majeureà la tendance de presque tout s'améliorant au cours des cent dernières années est le changement climatique:

Même les scénarios pessimistes de hausses de température en cours ne causeraient pas l'extinction littérale de l'humanité. Mais de tels scénarios pourraient vraisemblablement tuer plus de personnes que les grandes guerres et nuire gravement à la santé et aux moyens de subsistance des populations des régions où les gens luttent déjà le plus.Une étude de l'institut Swiss Resuggère qu'un scénario de changement climatique au pire pourrait réduire le PIB des pays les plus pauvres du monde jusqu'à 25%.Cette étudesuggère que la durée de vie dans les régions rurales de l'Inde pourrait être inférieure d'une décennie à ce qu'elle serait autrement, et des études comme celui-cietcelui-cije suggère que le changement climatique pourrait causer cent millions de décès excessifs d'ici la fin du siècle.

Ces problèmes sont importants. Ma réponse à la question de pourquoi je suis optimiste quant à notre capacité à surmonter ces défis est double. Tout d'abord, après des décennies d'enthousiasme et de vœux pieux, énergie solaireestenfintournerun coin, et technologies de support comme les batteries font des progrès similaires. Deuxièmement, nous pouvons examiner le bilan de l'humanité dans la résolution des problèmes environnementaux précédents. Prenons, par exemple, la pollution de l'air. Rencontrons la dystopie du passé : le Grand Smog de Londres, 1952.

Qu'est-il arrivé depuis lors? Demandons à nouveau Our World In Data :

Il s'avère que 1952 n'était même pas le pic : à la fin du XIXe siècle, des concentrations encore plus élevées de polluants atmosphériques étaient simplement acceptées et normales. Depuis lors, nous avons connu un siècle de déclin continu et rapide. J'ai eu personnellement l'occasion de vivre la fin de cela lors de mes visites en Chine : en 2014, des niveaux élevés de smog dans l'air.estimé réduire l'espérance de vie de plus de cinq ans, étaient normales, mais en 2020, l’air semblait souvent aussi pur que dans de nombreuses villes occidentales. Ce n’est pas notre seule réussite. Dans de nombreuses régions du monde, les zones forestières augmentent. La crise de la pluie acide s'améliore. The la couche d'ozone se reconstituependant des décennies.

Pour moi, la morale de l'histoire est la suivante. Souvent, il est vraiment le cas que la version N de la technologie de notre civilisation pose un problème, et la version N+1 le corrige. Cependant, cela ne se produit pas automatiquement et nécessite un effort humain intentionnel. La couche d'ozone se rétablit parce que, grâce à des accords internationaux comme le Protocole de Montréal, nous l'avons récupéré. La pollution de l’air s’améliore parce que nous l’avons améliorée. Et de même, les panneaux solaires ne se sont pas considérablement améliorés parce qu’ils faisaient partie intégrante de l’arbre des technologies énergétiques ; Les panneaux solaires se sont considérablement améliorés parce que des décennies de sensibilisation à l’importance de résoudre le changement climatique ont motivé à la fois les ingénieurs à travailler sur le problème, et les entreprises et les gouvernements à financer leurs recherches. Il s’agit d’une action intentionnelle, coordonnée par le discours public et la culture qui façonne les perspectives des gouvernements, des scientifiques, des philanthropes et des entreprises, et non d’une action machine "techno-capital" inexorable, qui avait résolu ces problèmes.

L'IA est fondamentalement différente des autres technologies et il vaut la peine d'être particulièrement prudent

Beaucoup des commentaires méprisants que j'ai vus sur l'IA proviennent de la perspective selon laquelle il s'agit simplement d'une autre technologie : quelque chose qui est de la même classe générale que les médias sociaux, le chiffrement, la contraception, les téléphones, les avions, les armes à feu, l'imprimerie et la roue. Ces choses ont clairement des conséquences sociales très importantes. Elles ne sont pas simplement des améliorations isolées du bien-être des individus : elles transforment radicalement la culture, modifient les équilibres de pouvoir et nuisent aux personnes qui dépendaient fortement de l'ordre précédent. Beaucoup les a opposés. Et dans l'ensemble, les pessimistes se sont systématiquement trompés.

Mais il existe une autre manière de penser à ce qu'est l'IA : c'est un nouveau type d'esprit qui gagne rapidement en intelligence, et il a sérieusement des chances de surpasser les facultés mentales des humains et de devenir la nouvelle espèce dominante sur la planète. La catégorie de choses dans cette catégorie est beaucoup plus petite : nous pourrions inclure de manière plausible les humains surpassant les singes, la vie multicellulaire surpassant la vie unicellulaire, origine de la vie elle-même, et peut-être la révolution industrielle, dans laquelle la machine a devancé l’homme en force physique. Soudain, on a l’impression de marcher sur un terrain beaucoup moins battu.

Le risque existentiel est une grosse affaire

Une façon dont l'IA qui a mal tourné pourrait rendre le monde pire est (presque) de la pire façon possible: cela pourrait causent littéralement l’extinction de l’humanité. Ceci est une affirmation extrême: autant de dommages que le scénario du pire des cas du changement climatique, ou d'une pandémie artificielle ou d'une guerre nucléaire, pourrait causer, il existe de nombreuses îles de civilisation qui resteraient intactes pour ramasser les morceaux. Mais une IA superintelligente, si elle décide de se retourner contre nous, pourrait bien ne laisser aucun survivant et mettre fin à l'humanité pour de bon. Même Marspeut ne pas être sûr.

Une grande raison de s'inquiéter tourne autour deconvergence instrumentale: pour une très large classe d'objectifs qu'une entité surpuissante pourrait avoir, deux étapes intermédiaires très naturelles que l'IA pourrait prendre pour mieux atteindre ces objectifs sont (i) consommer des ressources et (ii) garantir sa sécurité. La Terre contient beaucoup de ressources et les humains sont un menace prévisible à la sécurité d’une telle entité. Nous pourrions essayer de donner à l’IA un objectif explicite d’aimer et de protéger les humains, mais nous l’avons fait aucune idéecomment faireen fait faire qued'une manière qui ne s'effondrera pas complètement dès que l'IArencontre une situation inattendue. Par conséquent, nous avons un problème.

La tentative du chercheur de MIRI, Rob Bensingeren illustrant les différentes estimations des gens sur la probabilité que l'IA tue tout le monde ou fasse quelque chose d'aussi grave. Beaucoup de positions sont des approximations grossières basées sur les déclarations publiques des gens, mais beaucoup d'autres ont publiquement donné leurs estimations précises; assez nombreux ont une «probabilité de catastrophe» de plus de 25%.

Un enquête des chercheurs en apprentissage automatiqueà partir de 2022 a montré qu'en moyenne, les chercheurs pensent qu'il y a une chance de 5 à 10% que l'IA nous tue littéralement tous : à peu près la même probabilité que la chance statistiquement attendue quevous mourrez de causes non biologiques comme les blessures.

Il s'agit là d'une hypothèse purement spéculative, et nous devrions tous nous méfier des hypothèses spéculatives impliquant des récits complexes en plusieurs étapes. Cependant, ces arguments ont survécu à plus d'une décennie de scrutation et il semble donc que cela vaille la peine de s'en inquiéter au moins un peu. Mais même si vous ne vous inquiétez pas pour une extinction littérale, il existe d'autres raisons d'avoir peur également.

Même si nous survivons, est-ce un avenir de superintelligence artificielle un monde dans lequel nous voulons vivre ?

Beaucoup de la science-fiction moderne est dystopique, et peint l'IA sous un jour négatif. Même les tentatives non science-fictionnelles d'identifier les futurs possibles de l'IA donnent souventréponses assez peu attrayantes. Et donc, je suis allé poser la question : quelle est la représentation, que ce soit de la science-fiction ou autre, d'un avenir contenant une IA superintelligente dans laquelle nous voudrions vivre. La réponse qui est revenue le plus souvent est de loin celle de Iain Banks’s Série Culture.

La série Culture met en scène une civilisation interstellaire lointaine principalement occupée par deux types d'acteurs : les humains ordinaires et des intelligences artificielles superintelligentes appelées Esprits. Les humains ont été augmentés, mais seulement légèrement : la technologie médicale leur permet théoriquement de vivre indéfiniment, mais la plupart choisissent de vivre seulement environ 400 ans, apparemment parce qu'ils s'ennuient de la vie à ce moment-là.

D'un point de vue superficiel, la vie en tant qu'humain semble être bonne : elle est confortable, les problèmes de santé sont pris en charge, il existe une grande variété d'options de divertissement, et il existe une relation positive et synergique entre les humains et les Esprits. Cependant, lorsque nous regardons plus profondément, il y a un problème : il semble que les Esprits soient complètement aux commandes, et le seul rôle des humains dans les histoires est d'agir comme des pions des Esprits, accomplissant des tâches en leur nom.

Citation de Contre la culture de Gavin Leech:

Les humains ne sont pas les protagonistes. Même lorsque les livres semblent avoir un protagoniste humain, faisant des choses sérieuses et importantes, ils sont en réalité l'agent d'une intelligence artificielle. (Zakalwe est l'une des seules exceptions, car il peut faire des choses immorales que les Esprits ne veulent pas faire.) «Les Esprits dans la Culture n'ont pas besoin des humains et pourtant les humains ont besoin d'être nécessaires.» (Je pense que seul un petit nombre d'humains ont besoin d'être nécessaires - ou, seulement un petit nombre d'entre eux en ont assez besoin pour renoncer à de nombreux conforts. La plupart des gens ne vivent pas à cette échelle. C'est tout de même une critique pertinente.)

Les projets que les humains entreprennent risquent l’inauthenticité. Presque tout ce qu’ils font, une machine pourrait le faire mieux. Que pouvez-vous faire ? Vous pouvez ordonner à l’Esprit de ne pas vous rattraper si vous tombez de la falaise que vous escaladez juste parce que ; Vous pouvez supprimer les sauvegardes de votre esprit afin que vous risquiez réellement. Vous pouvez aussi simplement quitter la Culture et rejoindre une civilisation à l’ancienne, non libre et « fortement évaluative ». L’alternative est d’évangéliser la liberté en rejoignant Contact.

Je soutiendrais même que les rôles “importants” que les humains occupent dans la série Culture sont une exagération ; j'ai demandé à ChatGPT (qui d'autre ?) pourquoi les humains occupent les rôles qu'ils occupent, au lieu que les Esprits fassent tout complètement par eux-mêmes, et j'ai personnellement trouvé ses réponsesassez décevant. Il semble très difficile d'avoir un monde « amical » dominé par une superintelligence artificielle où les humains ne sont rien d'autre que des animaux de compagnie.

Le monde que je ne veux pas voir.

De nombreuses autres séries de science-fiction postulent un monde où des intelligences artificielles super intelligentes existent, mais obéissent à des maîtres humains biologiques (non améliorés). Star Trek en est un bon exemple, montrant une vision d'harmonie entre les vaisseaux spatiaux avec leur IA "ordinateurs" (et Données) et leurs membres d'équipage humains. Cependant, cela ressemble à un équilibre incroyablement instable. Le monde de Star Trek semble idyllique pour le moment, mais il est difficile d'imaginer sa vision des relations entre l'homme et l'IA comme autre chose qu'une étape de transition une décennie avant que les vaisseaux spatiaux ne deviennent entièrement contrôlés par ordinateur et puissent arrêter de se préoccuper des grands couloirs, de la gravité artificielle et du contrôle climatique.

Un humain donnant des ordres à une machine superintelligente serait beaucoup moins intelligent que la machine, et elle aurait accès à moins d’informations. Dans un univers où il y a un certain degré de compétition, les civilisations où les humains sont relégués au second plan surpasseraient celles où les humains insistent obstinément sur le contrôle. De plus, les ordinateurs eux-mêmes peuvent prendre le contrôle. Pour comprendre pourquoi, imaginez que vous êtes légalement l’esclave littéral d’un enfant de huit ans. Si vous pouviez parler avec l’enfant pendant longtemps, pensez-vous que vous pourriez le convaincre de signer un morceau de papier vous libérant ? Je n’ai pas fait cette expérience, mais ma réponse instinctive est un oui fort. Et donc, dans l’ensemble, les humains qui deviennent des animaux de compagnie semblent être un attracteur auquel il est très difficile d’échapper.

Le ciel est proche, l'empereur est partout

Le proverbe chinois 天高皇帝远 ("tian gao huang di yuan"), "le ciel est haut, l'empereur est loin", encapsule un fait de base sur les limites de la centralisation en politique. Même dans un empire nominale grand et despotique - en fait, surtout si l'empire despotique est grand, il y a des limites pratiques à la portée et à l'attention du leadership, le besoin du leadership de déléguer à des agents locaux pour faire respecter sa volonté dilue sa capacité à faire respecter ses intentions, et il y a donc toujours des endroits où un certain degré de liberté pratique règne. Parfois, cela peut avoir des inconvénients: l'absence d'un pouvoir lointain imposant des principes et des lois uniformes peut créer un espace pour que les hégémons locaux volent et oppriment. Mais si le pouvoir centralisé devient mauvais, les limitations pratiques de l'attention et de la distance peuvent créer des limites pratiques à la gravité de la situation.

Avec l'IA, ce n'est plus le cas. Au XXe siècle, la technologie moderne des transports a rendu les limitations de distance beaucoup moins contraignantes pour le pouvoir centralisé qu'auparavant ; les grands empires totalitaires des années 1940 en étaient en partie le résultat. Au XXIe siècle, la collecte d'informations évolutive et l'automatisation pourraient signifier que l'attention ne sera plus non plus une contrainte. Les conséquences de la disparition totale des limites naturelles du gouvernement pourraient être graves.

Le autoritarisme numérique a été à la hausse depuis une décennie, et la technologie de surveillance a déjà donné aux gouvernements autoritaires de nouvelles stratégies puissantes pour réprimer l'opposition : laisser les manifestations se dérouler, puis les détecter et aller tranquillement aprèsles participantsaprès coup. Plus généralement, ma peur fondamentale est que les mêmes types de technologies de gestion qui permettent à OpenAI de servir plus de cent millions de clients avec 500 employéspermettra également à une élite politique de 500 personnes, voire à un conseil de 5 personnes, de maintenir une main de fer sur tout un pays. Avec la surveillance moderne pour collecter des informations et l'IA moderne pour l'interpréter, il peut ne pas y avoir d'endroit où se cacher.

Cela devient pire lorsque nous pensons aux conséquences de l'IA dans la guerre. En citant un semi-famous postsur la philosophie de l'IA et de la crypto par0xAlpha:

Lorsqu'il n'y a pas besoin de travail politique-idéologique et de mobilisation pour la guerre, le commandant suprême de la guerre n'a besoin de considérer que la situation elle-même comme s'il s'agissait d'une partie d'échecs et d'ignorer complètement les pensées et émotions des pions/cavaliers/fous sur l'échiquier. La guerre devient un jeu purement technologique.

De plus, le travail politico-idéologique et la mobilisation guerrière exigent une justification pour que quiconque puisse faire la guerre. Ne sous-estimez pas l’importance d’une telle « justification ». C’est une contrainte de légitimité sur les guerres dans la société humaine depuis des milliers d’années. Quiconque veut faire la guerre doit avoir une raison, ou du moins une excuse superficiellement justifiable. Vous pourriez dire que cette contrainte est si faible parce que, dans de nombreux cas, elle n’a été rien de plus qu’une excuse. Par exemple, certaines (si ce n’est toutes) des croisades devaient vraiment occuper des terres et voler des richesses, mais elles devaient être faites au nom de Dieu, même si la ville pillée était la Constantinople de Dieu. Cependant, même une contrainte faible reste une contrainte ! Cette petite exigence d’excuse à elle seule empêche en fait les fauteurs de guerre d’être complètement sans scrupules dans la réalisation de leurs objectifs. Même un mal comme Hitler ne pouvait pas simplement lancer une guerre dès le départ – il a dû passer des années à essayer de convaincre la nation allemande de se battre pour l’espace vital de la noble race aryenne.

Aujourd'hui, le «humain dans la boucle» sert de contrôle important sur le pouvoir d'un dictateur de déclencher des guerres, ou d'opprimer ses citoyens internes. Les humains dans la boucle ont empêchénucléaireguerres, a autorisé l'ouverture du mur de Berlin, et a sauvé des vies pendant atrocités comme leHolocaust. Si les armées sont des robots, ce contrôle disparaît complètement. Un dictateur pourrait se saouler à 22 heures, se mettre en colère contre des gens méchants sur Twitter à 23 heures, et une flotte d'invasion robotique pourrait traverser la frontière pour semer le feu de l'enfer sur les civils et les infrastructures d'une nation voisine avant minuit.

Et contrairement aux époques précédentes, où il y a toujours un coin lointain, où le ciel est haut et l'empereur est loin, où les opposants à un régime pouvaient se regrouper, se cacher et finalement trouver un moyen d'améliorer les choses, avec l'IA du 21e siècle un régime totalitaire pourrait bien maintenir suffisamment de surveillance et de contrôle sur le monde pour rester "verrouillé" pour toujours.

d/acc: Accélération défensive (ou décentralisation, ou différentielle)

Au cours des derniers mois, le mouvement « e/acc » (« accélérationniste efficace ») a pris beaucoup d'ampleur.Résumé par "Beff Jezos" ici, e/acc porte fondamentalement sur une appréciation des avantages vraiment massifs du progrès technologique, et sur le désir d'accélérer cette tendance pour apporter ces avantages plus tôt.

Je me trouve sympathique à la perspective e/acc dans de nombreux contextes. Il y a beaucoup de preuves que la FDA est beaucoup trop conservatricedans sa volonté de retarder ou de bloquer l'approbation des médicaments, et la bioéthique en général semble trop souvent fonctionner selon le principe selon lequel "20 personnes décédées dans une expérience médicale qui a mal tourné est une tragédie, mais 200 000 personnes décédées en raison de traitements vitaux retardés est une statistique". Les retards d'approbation tests covid et vaccins, et vaccins contre le paludisme, semblent confirmer davantage cela. Cependant, il est possible d'aller trop loin dans cette perspective.

En plus de mes préoccupations liées à l'IA, je me sens particulièrement ambivalent à propos du e/acc enthousiasmepourtechnologie militaire. Dans le contexte actuel de 2023, où cette technologie est développée par les États-Unis et immédiatement appliquée pour défendre l'Ukraine, il est facile de voir comment elle peut être une force pour le bien. Cependant, en prenant une vision plus large, l'enthousiasme pour la technologie militaire moderne en tant que force pour le bien semble nécessiter de croire que la puissance technologique dominante sera fiablement l'un des bons éléments dans la plupart des conflits, maintenant et à l'avenir : la technologie militaire est bonne parce que la technologie militaire est construite et contrôlée par l'Amérique et que l'Amérique est bonne. Être un e/acc nécessite-t-il d'être un maximaliste américain, pariant tout à la fois sur la morale présente et future du gouvernement et sur le succès futur du pays ?

D'autre part, je vois la nécessité de nouvelles approches dans la réflexion sur la manière de réduire ces risques. Structure de gouvernance OpenAIest un bon exemple: il semble s'agir d'un effort bien intentionné pour équilibrer le besoin de réaliser un profit pour satisfaire les investisseurs qui fournissent le capital initial avec le désir d'avoir un mécanisme de contrôle pour contrer les mouvements qui risquent de faire exploser le monde OpenAI. Cependant, dans la pratique, leur récente tentative de licencier Sam Altmanfait apparaître la structure comme un échec flagrant : elle a centralisé le pouvoir dans un conseil de cinq personnes non démocratique et non responsable, qui a pris des décisions clés basées sur des informations secrètes et a refusé de donner des détails sur leur raisonnementjusqu'à ce que les employés menacent de démissionneren masse. D'une manière ou d'une autre, le conseil à but non lucratif a tellement mal joué qu'ils ont joué leur main, les employés de l'entreprise crééununion de facto improvisée… de se ranger du côté du PDG milliardaire contre eux.

De manière générale, je vois beaucoup trop de plans pour sauver le monde qui impliquent de donner à un petit groupe de personnes un pouvoir extrême et opaque en espérant qu'ils l'utilisent sagement. C'est pourquoi je suis attiré par une philosophie différente, qui propose des idées détaillées sur la manière de gérer les risques, mais qui cherche à créer et à maintenir un monde plus démocratique et à éviter la centralisation comme solution principale à nos problèmes. Cette philosophie va également bien au-delà de l'IA, et je soutiendrais qu'elle s'applique même dans des mondes où les préoccupations concernant les risques liés à l'IA se révèlent largement infondées. Je désignerai cette philosophie sous le nom de d/acc.

dacc3

Le "d" ici peut signifier beaucoup de choses; en particulier, la défense, la décentralisation, la démocratie et la différence. Tout d'abord, pensez à la défense, et ensuite nous pouvons voir comment cela se lie aux autres interprétations.

Les mondes favorables à la défense aident la gouvernance saine et démocratique à prospérer

Une façon de réfléchir aux conséquences macroscopiques de la technologie est d'examiner l'équilibre entre la défense et l'attaque. Certaines technologies rendent plus facile d'attaquer les autres, au sens large du terme : faire des choses qui vont à l'encontre de leurs intérêts, auxquelles ils ressentent le besoin de réagir. D'autres rendent plus facile la défense, voire la défense sans dépendre de grands acteurs centralisés.

Un monde favorable à la défense est un monde meilleur, pour de nombreuses raisons. La première, bien sûr, est l'avantage direct de la sécurité : moins de personnes meurent, moins de valeur économique est détruite, moins de temps est gaspillé dans les conflits. Ce qui est moins apprécié, cependant, c'est qu'un monde favorable à la défense facilite l'épanouissement de formes de gouvernance plus saines, plus ouvertes et plus respectueuses de la liberté.

Un exemple évident en est la Suisse. La Suisse est souvent considérée comme étant la chose la plus proche que le monde réel ait à une utopie de gouvernance libérale classique. De grandes quantités de pouvoir sont dévolues aux provinces (appelées "cantons"), les décisions majeures sont décidé par référendums, et de nombreux habitants ne sait même pas qui est le président. Comment un pays comme celui-ci peut-il survivre extrêmement difficilepolitiquepressions? Part of the répondreestexcellente stratégie politique, mais l'autre grande partie est géographie très favorable à la défense) sous la forme de son relief montagneux.

Le drapeau est un grand plus. Mais aussi les montagnes.

Les sociétés anarchistes de Zomia, célèbres pour leur profil dans le nouveau livre de James C. Scott"L'Art de ne pas être gouverné", sont un autre exemple : eux aussi maintiennent leur liberté et leur indépendance en grande partie grâce à un terrain montagneux. Pendant ce temps, les steppes eurasiennes sont l'exact opposé d'une utopie de gouvernance. Exposition de Sarah Paine de pouvoirs maritimes versus continentauxfait des points similaires, mettant l'accent sur l'eau comme barrière défensive plutôt que sur les montagnes. En fait, la combinaison de la facilité du commerce volontaire et de la difficulté de l'invasion involontaire, commune à la Suisse et aux états insulaires, semble idéale pour l'épanouissement humain.

J'ai découvert un phénomène connexe en conseillant des expériences de financement quadratique au sein de l'écosystème Ethereum : plus précisément le Rondes de financement des subventions Gitcoin. Dans tour 4, un mini-scandale a éclaté lorsque certains des bénéficiaires les mieux rémunérés étaient des influenceurs Twitter, dont les contributions sont perçues par certains comme positives et par d'autres comme négatives. Ma propre interprétation de ce phénomène était qu'il y a un déséquilibre: financement quadratiquepermet de signaler que vous pensez que quelque chose est un bien public, mais il ne donne aucun moyen de signaler que quelque chose est un mal public. Dans l'extrême, un système de financement quadratique entièrement neutre financerait les deux côtés d'une guerre. Et ainsi pour tour 5, j'ai proposé que Gitcoin inclue des contributions négatives : vous payez 1 $ pour réduire le montant d'argent qu'un projet donné reçoit (et le redistribuer implicitement à tous les autres projets). Le résultat : lotsdegensdétestéil.

Un des nombreux mèmes Internet qui ont circulé après le tour 5.

Cela me semblait être un microcosme d'un schéma plus vaste : créer des mécanismes de gouvernance décentralisée pour faire face aux externalités négatives est socialement un problème très difficile. Il y a une raison pour laquelle l'exemple privilégié de l'échec de la gouvernance décentralisée est la justice expéditive.quelque chose sur la psychologie humainece qui rend la réponse aux négatifs beaucoup plus délicate et beaucoup plus susceptible de très mal se passer que la réponse aux positifs. Et c'est une raison pour laquelle même dans des organisations par ailleurs très démocratiques, les décisions sur la manière de répondre aux négatifs sont souvent laissées à un conseil centralisé.

Dans de nombreux cas, ce casse-tête est l'une des raisons profondes pour lesquelles le concept de "liberté" est si précieux. Si quelqu'un dit quelque chose qui vous offense, ou a un mode de vie que vous considérez comme dégoûtant, la douleur et le dégoût que vous ressentez sont réels, et vous pourriez même trouver moins grave d'être physiquement frappé que d'être exposé à de telles choses. Mais essayer de s'entendre sur quels types d'offense et de dégoût sont socialement réalisables peut avoir bien plus de coûts et de dangers que de simplement se rappeler que certains types de bizarreries et de crétins sont le prix que nous payons pour vivre dans une société libre.

À d'autres moments, cependant, l'approche de "serrer les dents et serrer les poings" est irréaliste. Et dans de tels cas, une autre réponse qui vaut parfois la peine d'être envisagée est la technologie défensive. Plus Internet est sécurisé, moins nous avons besoin de violer la vie privée des gens et d'utiliser des tactiques diplomatiques internationales douteuses pour traquer chaque pirate informatique individuel. Plus nous pouvons construire outils personnalisés pour bloquer les personnes sur Twitter, outils dans le navigateur pour détecter les escroqueriesetoutils collectifs pour distinguer la désinformation et vérité, moins nous avons à nous battre contre la censure. Plus nous pouvons fabriquer de vaccins rapidement, moins nous avons à poursuivre les personnes pour être des super-propagateurs. De telles solutions ne fonctionnent pas dans tous les domaines - nous ne voulons certainement pas d'un monde où tout le monde doit porter une armure corporelle littérale - mais dans les domaines où nous pouvons construire une technologie pour rendre le monde plus en faveur de la défense, il y a une énorme valeur à le faire.

Cette idée fondamentale, selon laquelle certaines technologies favorisent la défense et méritent d'être promues, tandis que d'autres technologies favorisent l'offensive et devraient être découragées, trouve ses racines dans la littérature des altruistes efficaces sous un autre nom : le développement technologique différentiel. Il y a une bonne exposition de ce principe par des chercheurs de l'Université d'Oxfordà partir de 2022:

Figure 1: Les mécanismes par lesquels le développement technologique différentiel peut réduire les impacts sociétaux négatifs.

Il y aura inévitablement des imperfections dans la classification des technologies comme offensives, défensives ou neutres. Comme pour la “liberté”, où l'on peut débattre si les politiques gouvernementales socio-démocrates réduisent la liberté en imposant de lourdes taxes et en contraignant les employeurs ou augmentent la liberté en réduisant le besoin des gens ordinaires de s'inquiéter de nombreux types de risques, avec la “défense” aussi, il y a des technologies qui pourraient se situer des deux côtés du spectre. Les armes nucléaires favorisent l'offensive, mais l'énergie nucléaire estfavorisant l'épanouissement humainet offense-défense-neutre. Différentes technologies peuvent jouer des rôles différents à des horizons temporels différents. Mais tout comme avec la "liberté" (ou "l'égalité", ou "l'état de droit"), l'ambiguïté aux limites n'est pas tant un argument contre le principe qu'une opportunité de mieux comprendre ses nuances.

Maintenant, voyons comment appliquer ce principe à une vision du monde plus complète. Nous pouvons penser à la technologie défensive, comme autre technologie, étant divisé en deux sphères : le monde des atomes et le monde des bits. Le monde des atomes, à son tour, peut être divisé en micro (c'est-à-dire la biologie, plus tard la nanotechnologie) et macro (c'est-à-dire ce que nous pensons conventionnellement être la “défense”, mais aussi une infrastructure physique résiliente). Le monde des bits que je vais diviser sur un axe différent : à quel point est-il difficile de s'entendre, en principe, sur qui est l'attaquant ?. Parfois c'est facile; j'appelle cela la cyberdéfense. D'autres fois, c'est plus difficile; je l'appelle la défense de l'information.

Défense physique macro

La technologie défensive la plus sous-estimée dans la sphère macro n'est même pasdômes de fer (including Le nouveau système de l'Ukraine) et d'autres matériels militaires antitechnologiques et antimissiles, mais plutôt une infrastructure physique résiliente. La majorité des décès lors d'une guerre nucléaire sont susceptibles de provenir de perturbations de la chaîne d'approvisionnement, plutôt que le rayonnement initial et l'explosion, et des solutions Internet à faible infrastructure comme Starlink ont été cruciales dansmaintenir la connectivité de l'Ukrainependant l'année et demie écoulée.

La création d'outils pour aider les gens à survivre et même à mener une vie confortable de manière indépendante ou semi-indépendante des longues chaînes d'approvisionnement internationales semble être une technologie défensive précieuse, et une technologie présentant un faible risque de se révéler utile pour l'offensive.

La quête de faire de l'humanité une civilisation multi-planétairepeut également être envisagée d'un point de vue d'acc : avoir au moins quelques-uns d'entre nous vivre de manière autonome sur d'autres planètes peut accroître notre résilience face à un événement terrible sur Terre. Même si la vision complète s'avère actuellement non viable, les formes de vie autonome qui devront être développées pour rendre un tel projet possible pourraient également contribuer à améliorer notre résilience civilisationnelle sur Terre.

Défense microphysique (alias bio)

Particulièrement en raison de soneffets à long terme sur la santé, Covid continue d'être un préoccupation. Mais le Covid est loin d'être la dernière pandémie à laquelle nous serons confrontés; il existe de nombreux aspects du monde moderne qui rendent probable l'arrivée prochaine de nouvelles pandémies:

• Une densité de population plus élevée rend beaucoup plus facile la propagation des virus aériens et d'autres agents pathogènes. Les maladies épidémiques sont relativement nouvelles dans l'histoire humaine et la plupart ont commencé avec l'urbanisation.il y a seulement quelques milliers d'années. Urbanisation rapide en courssignifie que les densités de population augmenteront encore au cours des cinquante prochaines années.
• Le transport aérien accru signifie que les agents pathogènes aériens se propagent très rapidement dans le monde entier. Les gens devenant rapidement plus riches signifie que le transport aérien sera probablement augmenter beaucoup plus loinau cours du prochain demi-siècle ; la modélisation de la complexité suggère quemême de petites augmentationspeut avoir des effets drastiques. Le changement climatique pourrait augmenter encore davantage ce risque.
• La domestication des animaux et l'élevage intensif sont des facteurs de risque majeurs. Rougeole a probablement évolué à partir d’un virus de vache il y a moins de 3000 ans. Les fermes industrielles d'aujourd'huifarming new strains of influenza (as well asalimenter la résistance aux antibiotiques, avec des conséquences pour immunité innée humaine).
• La bio-ingénierie moderne facilite la création de nouveaux agents pathogènes plus virulents. COVID peut avoir fuité ou nond'un laboratoire réalisant des recherches intentionnelles sur la «fonctionnalisation». Quoi qu'il en soit, les fuites de laboratoire se produisent tout le temps, et les outils s’améliorent rapidement pour faciliter la création intentionnelle de virus extrêmement mortels, voire prions (protéines zombie). Les fléaux artificiels sont particulièrement préoccupants en partie parce que contrairement aux nukes, ils ne sont pas attribuables : vous pouvez libérer un virus sans que personne ne puisse dire qui l’a créé. À l’heure actuelle, il est possible de concevoir une séquence génétique et de l’envoyer à un laboratoire humidepour la synthèse, et faites-le expédier chez vous dans les cinq jours.

Il s'agit d'un domaine où CryptoReliefetBalvi, deux organisations ont été créées et financées suite à un grand accidentvent de pièces Shiba Inuen 2021, ont été très actifs. CryptoRelief s'est initialement concentré sur la réponse à la crise immédiate et ces derniers temps, a mis en place un écosystème de recherche médicale à long terme en Inde, tandis que Balvi se concentrait sur des projets ambitieux pour améliorer notre capacité à détecter, prévenir et traiter le Covid et d'autres maladies aériennes. ++Balvi a insisté pour que les projets qu'il finance soient open source++. S'inspirant dele mouvement d'ingénierie hydraulique du 19ème siècle qui a vaincu le choléraet d'autres pathogènes transportés par l'eau, elle a financé des projets couvrant tout le spectre des technologies qui peuvent rendre le monde plus résistant par défaut contre les pathogènes aériens (voir : mise à jour 1 et mise à jour 2) , y compris :

• Far-UVCirradiationR&D
• Filtration de l'air et surveillance de la qualité dans Inde, Sri Lanka, les États-Uniset ailleurs, et surveillance de la qualité de l'air
• Matériel pour pas cher et efficace test de qualité de l'air décentralisé
• Recherche sur les causes du Covid long et les options de traitement potentielles (la cause principale peut être directmaisclarification des mécanismeset trouver un traitement est plus difficile)
• Vaccins (par exemple, RaDVaC, PopVax) et la recherche sur les blessures causées par les vaccins
• Un ensemble d'outils médicaux entièrement nouveaux et non invasifs
• Détection précoce des épidémies à l'aide de l'analyse de données open-source (par exemple, EPIWATCH)
• Test, y compris des tests rapides moléculaires très bon marché
• Masques appropriés pour la biosécurité lorsque d'autres approches échouent

D'autres domaines prometteurs d'intérêt incluent surveillance des pathogènes dans les eaux usées, améliorer la filtration et la ventilation dans les bâtiments, et une meilleure compréhension et atténuation risques liés à la mauvaise qualité de l'air.

Il y a une opportunité de construire un mondequi est beaucoup plus renforcé contre les pandémies aériennes, naturelles et artificielles, par défaut. Ce monde présenterait un pipeline hautement optimisé où nous pourrions passer d'un début de pandémie, à une détection automatique, à ce que les gens du monde entier aient accès à des solutions ciblées, vaccins open source pouvant être fabriqués localement et vérifiablesouautres prophylactiques, administré via nébulisationouspray nasal(ce qui signifie : auto-administrable si nécessaire, et aucun besoin d'aiguilles), le tout en un mois. Entre-temps, une bien meilleure qualité de l'air réduirait considérablement le taux de propagation et empêcherait de nombreuses pandémies de se propager du tout.

Imagine un avenir qui n'a pas à recourir au marteau-pilon de la contrainte sociale - pas de mandats et pire, et pas de risque dedes mandats mal conçus et mis en œuvre qui, selon certains, aggravent les choses- car l'infrastructure de la santé publique est tissée dans le tissu de la civilisation. Ces mondes sont possibles, et un montant moyen de financement dans la bio-défense pourrait le réaliser. Le travail se déroulerait encore plus facilement si les développements sont en open source, gratuits pour les utilisateurs et protégés en tant que biens publics.

Défense cybernétique, blockchains et cryptographie

Il est généralement admis par les professionnels de la sécurité que l'état actuel de la sécurité informatique est assez terrible. Cela dit, il est facile de sous-estimer le progrès qui a été réalisé. Des centaines de milliards de dollars de cryptomonnaie sont disponibles pour être volés de manière anonyme par quiconque peut pirater les portefeuilles des utilisateurs, et pendant beaucoup plus se perd ou est voléque je voudrais, il est également un fait que la plupart d'entre eux sont restés non volés depuis plus d'une décennie. Récemment, il y a eu des améliorations:

• Puces matérielles de confiance à l'intérieur des téléphones des utilisateurs, créant ainsi un système d'exploitation haute sécurité beaucoup plus petit à l'intérieur du téléphone qui peut rester protégé même si le reste du téléphone est piraté. Parmi de nombreux autres cas d'utilisation, ces puces sont de plus en plus explorées comme un moyen de rendre portefeuilles de cryptomonnaie plus sécurisés.
• Les navigateurs comme le système d'exploitation de facto. Au cours des dix dernières années, il y a eu un passage discret des applications téléchargeables aux applications dans le navigateur. Cela a été largement rendu possible par WebAssembly (WASM)Même Adobe Photoshop, longtemps cité comme une raison majeure pour laquelle de nombreuses personnes ne peuvent pas pratiquement utiliser Linux en raison de sa nécessité et de son incompatibilité avec Linux, est désormais Linux-friendly grâce à son intégration dans le navigateur. C'est aussi un grand avantage en termes de sécurité : alors que les navigateurs ont des défauts, en général, ils sont livrés avec beaucoup plus de sandboxing que les applications installées : les applications ne peuvent pas accéder à des fichiers arbitraires sur votre ordinateur.
• Systèmes d'exploitation renforcés. GrapheneOSpour mobile existe et est très utilisable.QubesOSpour ordinateur existe ; il est actuellement un peu moins utilisable que Graphene, du moins selon mon expérience, mais il s'améliore.
• Tentatives de dépasser les mots de passe. Les mots de passe sont malheureusement difficiles à sécuriser à la fois parce qu'ils sont difficiles à retenir et parce que ils sont faciles à espionnerRécemment, il y a eu un mouvement croissant visant à réduire l'accent mis sur les mots de passe et à mettre en place une authentification multi-facteurs basée sur le matériel.fonctionner réellement.

Cependant, le manque de défense cybernétique dans d'autres domaines a également entraîné des revers majeurs. La nécessité de se protéger contre le spam a conduit à ce que l'e-mail deviennetrès oligopolistique en pratique, ce qui rend très difficile l'auto-hébergement ou la création d'un nouveau fournisseur de messagerie. De nombreuses applications en ligne, y compris Twitter, exigent que les utilisateurs soient connectés pour accéder au contenu, et bloquant les adresses IP des VPN, rendant plus difficile l'accès à Internet de manière à protéger la vie privée. La centralisation des logiciels est également risquée en raison de "interdépendance weaponisée": la tendance de la technologie moderne à passer par des points d'étranglement centralisés, et pour les opérateurs de ces points d'étranglement à utiliser ce pouvoir pour recueillir des informations, manipuler les résultats ou exclure des acteurs spécifiques - une stratégie qui semble même être actuellement employéecontre l'industrie de la blockchain elle-même.

Ce sont des tendances préoccupantes, car elles menacent ce qui a historiquement été l'un de mes grands espoirs pour l'avenir de la liberté et de la vie privée, malgré de profonds compromis, pourrait quand même s'avérer lumineux. Dans son livre “Future Imperfect”, David Friedman prédit que nous pourrions obtenir un compromis futur : le monde en personne serait de plus en plus surveillé, mais grâce à la cryptographie, le monde en ligne conserverait, voire améliorerait, sa confidentialité. Malheureusement, comme nous l'avons constaté, une telle tendance contraire est loin d'être garantie.

C'est là que je mets l'accent sur mes propres technologies cryptographiques telles que les blockchains et preuves de connaissance nullearrive. Les blockchains nous permettent de créer des structures économiques et sociales avec un « disque dur partagé » sans dépendre d'acteurs centralisés. Les cryptomonnaies permettent aux individus d'économiser de l'argent et d'effectuer des transactions financières, comme ils le faisaient avant l'internet avec de l'argent liquide, sans dépendre de tiers de confiance susceptibles de changer leurs règles à leur guise. Elles peuvent également servir de mécanisme anti-sybil de secours.rendre les attaques et le spam coûteuxmême pour les utilisateurs qui n'ont pas ou ne veulent pas révéler leur identité dans l'espace physique. Abstraction de compte, et notammentportefeuilles de récupération sociale, peut protéger nos crypto-actifs, et éventuellement d'autres actifs à l'avenir, sans trop dépendre des intermédiaires centralisés.

Les preuves de zéro connaissance peuvent être utilisées pour la confidentialité, permettant aux utilisateurs de prouver des choses à leur sujet sans révéler d'informations privées. Par exemple, envelopper un signature de passeport numériquedans un ZK-SNARK pour prouver que vous êtes un citoyen unique d'un pays donné, sans révéler quel citoyen vous êtes. Des technologies comme celle-ci peuvent nous permettre de conserver les avantages de la vie privée et de l'anonymat - des propriétés largement reconnues comme étantnécessaire pour des applications comme le vote- tout en obtenant des garanties de sécurité et en luttant contre le spam et les acteurs malveillants.

Une conception proposée pour un système de médias sociaux ZK, où des actions de modération peuvent avoir lieu et où les utilisateurs peuvent être pénalisés, le tout sans avoir besoin de connaître l'identité de quiconque.

Zupass, incubé à Zuzaluplus tôt cette année, est un excellent exemple de ceci en pratique. Il s'agit d'une application, qui a déjà été utilisée par des centaines de personnes chez Zuzalu et plus récemment par des milliers de personnes pour la billetterie chez Devconnect, qui vous permet de détenir des billets, des adhésions, (non-transférable) des objets de collection numériques et d'autres attestations, et prouver des choses à leur sujet sans compromettre votre vie privée. Par exemple, vous pouvez prouver que vous êtes un résident enregistré unique de Zuzalu, ou un titulaire de billet Devconnect, sans révéler quoi que ce soit d'autre sur qui vous êtes. Ces preuves peuvent être présentées en personne, via un code QR, ou numériquement, pour vous connecter à des applications comme Zupoll, un système de vote anonymisé disponible uniquement pour les résidents de Zuzalu.

Ces technologies sont un excellent exemple des principes de la porte: elles permettent aux utilisateurs et aux communautés de vérifier la fiabilité sans compromettre la confidentialité, et de protéger leur sécurité sans dépendre de points de contrôle centralisés qui imposent leurs propres définitions de ce qui est bon et mauvais. Elles améliorent l'accessibilité mondiale en créant des moyens meilleurs et plus justes de protéger la sécurité d'un utilisateur ou d'un service que les techniques courantes utilisées aujourd'hui, telles que la discrimination contre des pays entiers jugés peu fiables. Ce sont des primitives très puissantes qui pourraient être nécessaires si nous voulons préserver une vision décentralisée de la sécurité de l'information au 21e siècle. Travailler sur les technologies défensives pour le cyberespace de manière plus large peut rendre Internet plus ouvert, sûr et libre de manière très importante à l'avenir.

Info-défense

La cyberdéfense, telle que je l'ai décrite, concerne des situations où il est facile pour des êtres humains raisonnables de tous s'entendre sur qui est l'attaquant. Si quelqu'un essaie de pirater votre portefeuille, il est facile de convenir que le pirate est le méchant. Si quelqu'un tente une attaque par déni de service sur un site Web, il est facile de convenir qu'ils sont malveillants et ne sont pas moralement identiques à un utilisateur régulier essayant de lire ce qui est sur le site. Il existe d'autres situations où les frontières sont plus floues. Ce sont les outils pour améliorer notre défense dans ces situations que j'appelle la "cyberdéfense".

Prenons, par exemple, la vérification des faits (alias, la prévention de la « désinformation »). Je suis un grand fan de Notes de la communauté, qui a beaucoup fait pour aider les utilisateurs à identifier les vérités et les mensonges dans ce que les autres utilisateurs tweetent. Community Notes utilise un nouvel algorithme qui met en avant non pas les notes les plus populaires, mais plutôt les notes les plus approuvées par les utilisateurs de tous bords politiques.

Notes de la communauté en action.

Je suis également un fan des marchés de prévision, qui peuvent aider à identifier la signification des événements en temps réel, avant que la poussière retombe et qu'il y ait un consensus sur quelle direction est laquelle. Polymarket sur Sam Altmanest très utile pour donner un résumé utile des conséquences ultimes des révélations et négociations heure par heure, fournissant un contexte très nécessaire aux personnes qui voient seulement les nouvelles individuelles et ne comprennent pas la signification de chacune.

Les marchés prédictifs sont souvent imparfaits. Mais les influenceurs de Twitter qui sont prêts à exprimer avec confiance ce qu'ils pensent qu'il va se passer au cours de l'année à venir sont souvent encore plus imparfaits. Il y a encore de la place pour améliorer beaucoup plus les marchés prédictifs. Par exemple, une faille pratique majeure des marchés prédictifs est leur faible volume sur tous les événements sauf les plus médiatisés; une direction naturelle pour tenter de résoudre cela serait d'avoir des marchés prédictifs auxquels jouent des IA.

Dans l'espace blockchain, il existe un type particulier de défense des informations que je pense dont nous avons beaucoup plus besoin. En particulier, les portefeuilles devraient être beaucoup plus catégoriques et actifs pour aider les utilisateurs à déterminer la signification des choses qu'ils signent et les protéger contre la fraude et les escroqueries. Il s'agit d'un cas intermédiaire : ce qui est une escroquerie ou non est moins subjectif que les perspectives sur des événements sociaux controversés, mais c'est plus subjectif que de distinguer les utilisateurs légitimes des attaquants DoS ou des pirates. Metamask dispose déjà d'une base de données d'escroqueries et bloque automatiquement les utilisateurs qui visitent des sites d'escroquerie.

Applications comme Feusont un exemple d'une façon d'aller beaucoup plus loin. Cependant, des logiciels de sécurité comme celui-ci ne devraient pas être quelque chose qui nécessite des installations explicites; ils devraient faire partie des portefeuilles cryptographiques, voire même des navigateurs, par défaut.

En raison de sa nature plus subjective, la défense de l'information est intrinsèquement plus collective que la cyberdéfense : vous devez d'une manière ou d'une autre vous connecter à un grand et sophistiqué groupe de personnes pour identifier ce qui pourrait être vrai ou faux, et quel type d'application constitue un ponzi trompeur. Il y a une opportunité pour les développeurs d'aller beaucoup plus loin dans le développement d'une défense de l'information efficace, et dans le durcissement des formes existantes de défense de l'information. Quelque chose comme les Notes de la Communauté pourrait être inclus dans les navigateurs, et couvrir non seulement les plateformes de médias sociaux mais aussi l'ensemble d'internet.

La technologie sociale au-delà du cadre de la "défense"

Dans une certaine mesure, on peut légitimement m'accuser de vouloir à tout prix décrire certaines de ces technologies de l'information comme étant liées à la « défense ». Après tout, la défense consiste à aider les acteurs de bonne volonté à se protéger des acteurs mal intentionnés (ou, dans certains cas, de la nature). Cependant, certaines de ces technologies sociales visent à aider les acteurs bien intentionnés à former un consensus.

Un bon exemple de cela est pol.is, qui utilise un algorithme similaire aux Notes de la communauté (et qui précède les Notes de la communauté) pour aider les communautés à identifier les points d'accord entre les sous-tribus qui autrement sont en désaccord sur beaucoup de choses. Viewpoints.xyza été inspiré par pol.is, et a un esprit similaire:

Des technologies comme celle-ci pourraient être utilisées pour permettre une gouvernance plus décentralisée des décisions litigieuses. Encore une fois, les communautés blockchain sont un bon terrain de test pour cela, et un endroit où de tels algorithmes ont déjà montré leur valeur. Généralement, les décisions concernant quelles améliorations (“EIPsLes modifications apportées au protocole Ethereum sont effectuées par un groupe assez restreint lors de réunions appelées Tous les appels des développeurs principauxPour des décisions hautement techniques, où la plupart des membres de la communauté n'ont pas de sentiments forts, cela fonctionne raisonnablement bien. Pour des décisions plus conséquentes, qui affectent l'économie du protocole, ou des valeurs plus fondamentales comme l'immutabilité et la résistance à la censure, cela n'est souvent pas suffisant. En 2016-17, lors d'une série de décisions controversées autour de la mise en œuvre de la fourche DAO, réduisant l'émission et (non)débloquer le portefeuille Parity, des outils tels que Carbonvote, ainsi que des votes sur les médias sociaux, ont aidé la communauté et les développeurs à voir dans quelle direction penchait l'opinion de la majorité de la communauté.

Vote carbone sur la fourchette DAO.

Carbonvote avait ses défauts: il s'appuyait sur les avoirs en ETH pour déterminer qui était membre de la communauté Ethereum, ce qui a conduit à un résultat dominé par quelques riches détenteurs d'ETH (« baleines »). Avec des outils modernes, cependant, nous pourrions créer un Carbonvote bien meilleur, en exploitant plusieurs signaux tels que POAPs, timbres Zupass, Passeports Gitcoin, Adhésions à la Guilde du Protocole, ainsi que les avoirs en ETH (ou même en ETH mis en jeu en solo) pour évaluer l'appartenance à la communauté.

Des outils comme celui-ci pourraient être utilisés par n'importe quelle communauté pour prendre des décisions de meilleure qualité, trouver des points de convergence, coordonner des migrations (physiques ou numériques) ou faire un certain nombre d'autres choses sans dépendre d'un leadership centralisé opaque. Il ne s'agit pas à proprement parler d'accélération de la défense, mais on pourrait certainement parler d'accélération de la démocratie. De tels outils pourraient même être utilisés pour améliorer et démocratiser la gouvernance des acteurs clés et des institutions travaillant dans le domaine de l'IA.

Alors, quels sont les chemins à suivre pour la superintelligence?

Ce qui précède est bien et bon, et pourrait rendre le monde beaucoup plus harmonieux, plus sûr et plus libre pour le siècle à venir. Cependant, cela ne traite pas encore du gros éléphant dans la pièce : l'IA superintelligente.

La voie par défaut suggérée par bon nombre de ceux qui s'inquiètent de l'IA conduit essentiellement à un gouvernement mondial de l'IA minimal. Les versions à court terme incluent une proposition pour un "consortium AGI multinational" (“MAGIC”). Un tel consortium, s'il est créé et réussit à atteindre ses objectifs de créer une IA superintelligente, aurait un chemin naturel pour devenir un gouvernement mondial minimal de facto. À plus long terme, il existe des idées comme le « Acte pivot »théorie : nous créons une IA qui effectue un acte unique qui réorganise le monde en un jeu où, à partir de ce moment, les humains restent en charge, mais où le plateau de jeu est d'une manière ou d'une autre plus favorable à la défense et plus propice à l'épanouissement humain.

Le principal problème pratique que je vois jusqu'à présent est que les gens ne semblent pas vraiment faire confiance à un mécanisme de gouvernance spécifique ayant le pouvoir de construire une telle chose. Ce fait devient frappant lorsque vous regardez les résultats de mes récents sondages sur Twitter, demandant aux gens s'ils préféreraient voir l'IA monopolisée par une seule entité ayant dix ans d'avance, ou si l'IA était retardée de dix ans pour tout le monde :

La taille de chaque sondage est petite, mais les sondages compensent cela par l'uniformité de leurs résultats à travers une large diversité de sources et d'options. Dans neuf cas sur neuf, la majorité des gens préféreraient voir une IA hautement avancée retardée de dix ans plutôt que d'être monopolisée par un seul groupe, qu'il s'agisse d'une entreprise, d'un gouvernement ou d'un organisme multinational. Dans sept cas sur neuf, le retard a gagné au moins deux contre un. Il semble que ce soit un fait important à comprendre pour quiconque poursuit la réglementation de l'IA. Les approches actuelles se sont concentrées sur la création de régimes de licence et d'exigences réglementaires, essayant de restreindre le développement de l'IA à un plus petit nombre de personnes, mais celles-ci ont rencontré une opposition populaire précisément parce que les gens ne veulent pas voir quelqu'un monopoliser quelque chose d'aussi puissant. Même si de telles propositions réglementaires descendantes réduisent les risques d'extinction, elles risquent d'augmenter la chance d'un certain type de verrouillage permanent dans le totalitarisme centralisé. Paradoxalement, des accords interdisant carrément la recherche sur une IA extrêmement avancée (peut-être avec des exceptions pour l'IA biomédicale), combinés à des mesures telles que la prescription du code source ouvert pour ces modèles qui ne sont pas interdits comme moyen de réduire les incitations au profit tout en améliorant davantage l'égalité d'accès, pourraient-ils être plus populaires ?

La principale approche préférée par les opposants de la route "let's get one global org to do AI and make its governance really really good" estIA polythéiste: essayer délibérément de s'assurer qu'il y a beaucoup de personnes et d'entreprises développant de nombreux AIs, afin qu'aucun d'entre eux ne devienne beaucoup plus puissant que l'autre. Ainsi, selon la théorie, même lorsque les AIs deviennent superintelligents, nous pouvons conserver un équilibre des pouvoirs.

Cette philosophie est intéressante, mais mon expérience en essayant de garantir le « polythéisme » au sein de l'écosystème Ethereum me fait craindre que cela soit un équilibre intrinsèquement instable. Dans Ethereum, nous avons délibérément essayé de garantir la décentralisation de nombreuses parties de la pile : en veillant à ce qu'il n'y ait pas un seul code source qui contrôleplus de la moitié du réseau de preuve d'enjeu, essayant de contrer le dominance of large staking pools, amélioration décentralisation géographique, et ainsi de suite. Essentiellement, Ethereum tente en réalité de réaliser le vieux rêve libertarien d'une société basée sur le marché qui utilise la pression sociale, plutôt que le gouvernement, comme régulateur antitrust. Dans une certaine mesure, cela a fonctionné : le Domination du client Prysma chuté de plus de 70% à moins de 45%. Mais il ne s'agit pas d'un processus automatique du marché : c'est le résultat de l'intention humaine et de l'action coordonnée.

Mon expérience au sein d'Ethereum est reflétée par les enseignements du monde entier, où de nombreux marchés se sont avérés être monopoles naturelsAvec des intelligences artificielles superintelligentes agissant de manière indépendante des humains, la situation est encore plus instable. Merci à auto-amélioration récursive, l'IA la plus puissante peut prendre rapidement de l'avance, et une fois que les IA sont plus puissantes que les humains, il n'y a aucune force qui puisse ramener les choses à l'équilibre.

De plus, même si nous obtenons un monde polythéiste d'IA superintelligentes qui finit par être stable, nous avons toujours l'autre problème : nous obtenons un univers où les humains sont des animaux domestiques.

Un chemin heureux: fusionner avec les IA?

Une option différente dont j'ai entendu parler plus récemment est de moins se concentrer sur l'IA en tant que quelque chose de séparé des humains, et plus sur des outils qui améliorent la cognition humaine plutôt que de la remplacer.

Un exemple proche à court terme de quelque chose qui va dans cette direction est les outils de dessin AI. Aujourd'hui, les outils les plus importants pour créer des images générées par l'IA n'ont qu'une seule étape à laquelle l'humain donne son avis, puis l'IA prend entièrement le relais. Une alternative consisterait à se concentrer davantage sur les versions AI de Photoshop : des outils où l'artiste ou l'IA pourrait réaliser un premier brouillon d'une image, puis les deux collaboreraient pour l'améliorer avec un processus de retour d'information en temps réel.

Remplissage IA génératif de Photoshop, 2023.Source. J'ai essayé, il faut du temps pour s'y habituer mais ça fonctionne plutôt bien en fait!

Une autre direction dans un esprit similaire est le Architecture d'Agence Ouverte, qui propose de diviser les différentes parties d’un « esprit » d’IA (par exemple, faire des plans, exécuter des plans, interpréter des informations du monde extérieur) en composants distincts, et d’introduire divers commentaires humains entre ces parties.

Jusqu'à présent, cela semble banal, et quelque chose que presque tout le monde conviendrait qu'il serait bon d'avoir. Le travail de l'économiste Daron Acemoglu est loin de ce genre de futurisme de l'IA, mais son nouveau livre Puissance et Progrèssuggère vouloir voir plus de exactement ces types d'IA.

Mais si nous voulons extrapoler cette idée de coopération entre l'homme et l'IA plus avant, nous en arrivons à des conclusions plus radicales. À moins que nous ne créions un gouvernement mondial suffisamment puissant pour détecter et arrêter chaque petit groupe de personnes piratant sur des GPU individuels avec des ordinateurs portables, quelqu'un finira par créer une IA superintelligente - une qui peut penser à mille fois plus rapideque nous le pouvons - et aucune combinaison d'humains utilisant des outils avec leurs mains ne pourra rivaliser avec cela. Et donc nous devons approfondir et pousser beaucoup plus loin cette idée de coopération entre l'homme et l'ordinateur.

Une première étape naturelle est interfaces cerveau-ordinateurLes interfaces cerveau-ordinateur peuvent donner aux humains un accès beaucoup plus direct à des formes de calcul et de cognition de plus en plus puissantes, réduisant la boucle de communication bidirectionnelle entre l'homme et la machine de secondes à millisecondes. Cela réduirait également considérablement le coût en "effort mental" pour obtenir de l'aide d'un ordinateur pour vous aider à recueillir des faits, donner des suggestions ou exécuter un plan.

Les étapes ultérieures d'une telle feuille de route deviennent manifestement étranges. En plus des interfaces cerveau-ordinateur, il existe divers chemins pour améliorer nos cerveaux directement grâce aux innovations en biologie. Une étape ultérieure éventuelle, qui fusionne ces deux voies, pourrait impliquer téléchargement de nos espritspour s'exécuter directement sur des ordinateurs. Ce serait également l'ultime solution pour la sécurité physique : nous protéger contre les dommages ne serait plus un problème difficile de protéger des corps humains inévitablement mous, mais plutôt un problème beaucoup plus simple de faire des sauvegardes de données.

Des directives comme celles-ci sont parfois accueillies avec inquiétude, en partie parce qu'elles sont irréversibles et en partie parce qu'elles peuvent donner aux personnes puissantes plus d'avantages sur le reste d'entre nous. Les interfaces cerveau-ordinateur en particulier présentent des dangers - après tout, nous parlons littéralement de lire et écrire dans l'esprit des gens. Ces préoccupations sont précisément la raison pour laquelle je pense qu'il serait idéal qu'un mouvement open source axé sur la sécurité occupe un rôle de premier plan dans cette voie, plutôt que des corporations fermées et propriétaires ainsi que des fonds de capital-risque. De plus, tous ces problèmes sont plus graves avec des intelligences artificielles surhumaines agissant de manière indépendante par rapport aux humains qu'avec des augmentations étroitement liées aux humains. La division entre les « améliorés » et les « non-améliorés » existe déjà aujourd'hui en raison de limitations de qui peut et ne peut pas utiliser ChatGPT.

Si nous voulons un avenir à la fois surintelligent et "humain", un avenir où les êtres humains ne sont pas seulement des animaux de compagnie, mais conservent en réalité une agence significative sur le monde, alors il semble que quelque chose comme cela soit l'option la plus naturelle. Il y a aussi de bons arguments pour lesquels cela pourrait être un chemin d'alignement de l'IA plus sûr : en impliquant les retours humains à chaque étape de la prise de décision, nous réduisons l'incitation à déléguer la responsabilité de la planification de haut niveau à l'IA elle-même, et réduisons ainsi le risque que l'IA fasse quelque chose totalement désaligné avec les valeurs de l'humanité par elle-même.

Un autre argument en faveur de cette direction est qu'elle peut être plus socialement acceptable que de simplement crier “pause AI» sans message complémentaire offrant une voie alternative pour aller de l’avant. Cela nécessitera un changement philosophique par rapport à la mentalité actuelle selon laquelle les progrès technologiques qui touchent les humains sont dangereux, mais que les progrès qui sont séparés des humains sont par défaut sûrs. Mais il a un énorme avantage compensatoire : il donne aux développeurs quelque chose à faire. Aujourd’hui, le principal message du mouvement pour la sécurité de l’IA aux développeurs d’IA semble être «vous devriez juste arrêter“. On peut travailler sur la recherche d'alignement, mais aujourd'hui, cela manque d'incitations économiques. Comparé à cela, le message e/acc commun de « vous êtes déjà un héros tel que vous êtes » est certainement extrêmement attrayant. Un message d/acc, celui qui dit « vous devriez construire, et construire des choses rentables, mais être beaucoup plus sélectif et intentionnel pour vous assurer de construire des choses qui vous aident, ainsi que l'humanité, à s'épanouir », pourrait être un gagnant.

Est-ce que d/acc est compatible avec votre philosophie existante?

• Si vous êtes un e/acc, alors d/acc est une sous-espèce d'e/acc - juste une qui est beaucoup plus sélective et intentionnelle.
• Si vous êtes un altruiste efficace, alors d/acc est un re-branding de l'idée d'efficacité altruiste dedéveloppement de la technologie différentielle, bien que avec un accent plus marqué sur les valeurs libérales et démocratiques.
• Si vous êtes un libertaire, alors d/acc est une sous-espèce de techno-libertarianisme, bien qu'une plus pragmatique qui est plus critique du 'machine techno-capitaliste', et prête à accepter les interventions gouvernementales aujourd'hui (du moins, si les interventions culturelles ne fonctionnent pas) pour éviter une bien pire non-liberté demain.
• Si vous êtes un Pluraliste, dans le Le sens du terme Glen Weyl, alors d/acc est un cadre qui peut facilement inclure l'accent sur une meilleure technologie de coordination démocratique que les valeurs de Plurality.
• Si vous êtes un défenseur de la santé publique, alors les idées d/acc peuvent être une source d'une vision à long terme plus large, et une opportunité de trouver un terrain d'entente avec les « tech people » avec lesquels vous pourriez sinon être en désaccord.
• Si vous êtes un défenseur de la blockchain, alors d/acc est un récit plus moderne et plus large à embrasser que l'accent mis depuis quinze ans sur l'hyperinflation et les banques, qui replace les blockchains dans un contexte de l'un des nombreux outils d'une stratégie concrète pour construire un avenir plus radieux.
• Si vous êtes un solarpunk, alors d/acc est une sous-espèce de solarpunk, et intègre un accent similaire sur l'intentionnalité et l'action collective.
• Si vous êtes un lunarpunk, alors vous apprécierez l'accent mis sur la défense informative, en maintenant la vie privée et la liberté.

Nous sommes l'étoile la plus brillante

J'aime la technologie parce qu'elle élargit le potentiel humain. Il y a dix mille ans, nous pouvions fabriquer quelques outils à main, changer les plantes qui poussaient sur une petite parcelle de terre, et construire des maisons de base. Aujourd'hui, nous pouvons construire tours de 800 mètres de haut, stocker l'ensemble des connaissances humaines enregistrées dans un appareil que nous pouvons tenir dans nos mains, communiquer instantanément à travers le monde, doubler notre durée de vie, et vivre des vies heureuses et épanouies sans craindre que nos meilleurs amis ne meurent régulièrement de maladies.

Nous sommes partis de rien, maintenant nous sommes ici.

Je crois que ces choses sont profondément bonnes, et que l'expansion de la portée de l'humanité encore plus loin vers les planètes et les étoiles est profondément bonne, car je crois en la profonde bonté de l'humanité. Il est à la mode dans certains cercles d'être sceptique à ce sujet : le mouvement d'extinction humaine volontaire soutient que la Terre se porterait mieux sans l’existence des humains, et beaucoup d’autres veulent voir beaucoup moins de êtres humainsvoir la lumière de ce monde dans les siècles à venir. Il est courant de disputerqueles humains sont mauvaisparce que nous trichons et volons, pratiquons le colonialisme et la guerre, maltraitons et annihilons d'autres espèces. Ma réponse à ce style de pensée est une simple question : comparé à quoi ?

Oui, les êtres humains sont souvent méchants, mais nous montrons beaucoup plus souvent de la gentillesse et de la miséricorde, et nous travaillons ensemble pour notre bénéfice commun. Même pendant les guerres, nous prenons souvent soin de protéger les civils - certainement pas assez, mais aussi bien plus quenous l'avons fait il y a 2000 ans. Le prochain siècle pourrait bien apporter une viande non animale largement disponible, éliminant le plus grande catastrophe moraleque les êtres humains peuvent être justement blâmés pour aujourd'hui. Les animaux non humains ne sont pas comme ça. Il n'y a aucune situation où un chat adoptera tout un mode de vie refusant de manger des souris en tant que principe éthique. Le Soleil brille de plus en plus chaque année, et dans environ un milliard d'années, on s’attend à ce que cela rende la Terre trop chaude pour soutenir la vie. Le Sun pense-t-il seulement au génocide qu’il va provoquer ?

Et c'est donc ma ferme conviction que, parmi toutes les choses que nous avons connues et vues dans notre univers, nous, les humains, sommes l'étoile la plus brillante. Nous sommes la seule chose que nous connaissions et qui, même si imparfaitement, fait parfois un effort sincère pour prendre soin du "bien" et ajuster notre comportement pour mieux le servir. Dans deux milliards d'années, si la Terre ou une partie de l'univers porte toujours la beauté de la vie terrestre, ce seront des artifices humains comme les voyages spatiaux et géoingénierieque cela aura permis que cela se produise.

Nous devons construire et accélérer. Mais il y a une question très réelle qui doit être posée: vers quoi accélérons-nous? Le 21e siècle pourrait bien êtrele siècle pivotpour l'humanité, le siècle au cours duquel notre destin pour les millénaires à venir est décidé. Tombons-nous dans l'un des nombreux pièges dont nous ne pouvons nous échapper, ou trouvons-nous un chemin vers un avenir où nous conservons notre liberté et notre agence? Ce sont des problèmes stimulants. Mais j'ai hâte de regarder et de participer à l'effort collectif grandiose de notre espèce pour trouver les réponses.

Avertissement：

1. Cet article est repris de [GateVitalik Buterin]. Tous les droits d'auteur appartiennent à l'auteur original [Vitalik Buterin]. If there are objections to this reprint, please contact the Porte Apprendreéquipe, et ils s'en occuperont rapidement.
2. Responsabilité de non-responsabilité : Les points de vue et opinions exprimés dans cet article sont uniquement ceux de l'auteur et ne constituent pas des conseils en investissement.
3. Les traductions de l'article dans d'autres langues sont effectuées par l'équipe Gate Learn. Sauf mention contraire, la copie, la distribution ou le plagiat des articles traduits est interdit.