d/acc : Retour et réflexion après un an

Auteur : Vitalik Buterin

L'année dernière, j'ai écrit un article sur l'optimisme technologique, exposant mon enthousiasme général pour la technologie et les énormes avantages qu'elle peut apporter, tout en exprimant une attitude prudente à l'égard de certaines questions spécifiques, principalement axée sur l'IA super intelligente et les risques catastrophiques qu'elle pourrait engendrer.

Le point central de l'article est de promouvoir une idée : une accélération défensive décentralisée, démocratique et différenciée. Nous devons accélérer le développement technologique, mais en nous concentrant de manière sélective sur les technologies qui renforcent la capacité de défense plutôt que de destruction, et nous engager à décentraliser le pouvoir, plutôt que de le concentrer entre les mains d'une élite restreinte. Le mode de défense devrait ressembler à la démocratie suisse et aux zones quasi-anarchiques de l'histoire, plutôt qu'aux seigneurs et châteaux du féodalisme médiéval.

Au cours de l'année écoulée, ces idées ont connu un développement et un perfectionnement significatifs. J'ai partagé ces idées sur la plateforme "80 000 heures", et j'ai reçu de nombreux retours, la plupart étant positifs, mais il y avait aussi quelques critiques.

Ce travail progresse et a produit des résultats substantiels : des avancées dans le domaine des vaccins open source vérifiables ; une sensibilisation croissante à la valeur de l'air intérieur sain ; les "notes communautaires" continuent de jouer un rôle positif ; le marché prédictif a connu une année décisive en tant qu'outil d'information ; les preuves à divulgation nulle de connaissance sont appliquées dans l'identification gouvernementale et les réseaux sociaux ( et garantissent la sécurité des portefeuilles Ethereum grâce à l'abstraction de compte ) ; les outils d'imagerie open source sont utilisés dans les domaines médical et des interfaces cerveau-machine, etc.

L'automne dernier, nous avons accueilli notre premier événement important d'/acc : "Journée de découverte d'/acc" ( d/aDDy ), rassemblant des intervenants de divers domaines piliers de d/acc ( tels que la biologie, la physique, le réseau, la défense de l'information et la technologie neuronale ). L'événement a duré toute une journée. Les personnes engagées de longue date dans ces technologies ont commencé à mieux comprendre le travail des autres, et les personnes extérieures prennent également conscience de cette vision plus large : les mêmes valeurs qui propulsent le développement d'Ethereum et des cryptomonnaies peuvent s'étendre à un monde plus vaste.

La signification et l'étendue de d/acc

L'année 2042 est arrivée. Vous avez vu dans les reportages médiatiques une nouvelle disant que votre ville pourrait connaître une nouvelle épidémie. Pour ce genre de nouvelles, vous êtes déjà habitué : les gens ont tendance à réagir de manière excessive à chaque mutation de maladie animale, et dans la grande majorité des cas, ces mutations ne déclenchent finalement pas de crise réelle. Les deux précédentes épidémies potentielles ont été détectées tôt et contenues avec succès grâce à la surveillance des eaux usées et à l'analyse open source des médias sociaux. Cependant, cette fois-ci, la situation est différente, le marché des prévisions indique qu'il y a jusqu'à 60 % de probabilité d'au moins 10 000 cas, ce qui vous inquiète.

Juste hier, le séquençage génétique du virus a été déterminé. Le logiciel de votre test d'air dans la poche a été mis à jour et peut maintenant détecter le nouveau virus ( par un test respiratoire ou après 15 minutes d'exposition dans une pièce à ). De plus, des instructions et du code open source pour générer un vaccin à l'aide d'équipements disponibles dans toute installation médicale moderne devraient être publiés dans quelques semaines. La plupart des gens n'ont pas encore pris de mesures, s'appuyant principalement sur des mesures de filtration et de ventilation de l'air largement adoptées pour protéger leur sécurité.

En raison de vos problèmes immunitaires, il est donc nécessaire d'être plus prudent : votre assistant personnel AI local et open source, en plus de ses tâches habituelles telles que la navigation, les recommandations de restaurants et d'activités, prend également en compte les données de test de la qualité de l'air en temps réel et les données de dioxyde de carbone, ne vous recommandant que les lieux les plus sûrs. Ces données sont fournies par des milliers de participants et de dispositifs, et grâce aux techniques de preuve à divulgation nulle de connaissance et de confidentialité différentielle, le risque de fuite ou d'utilisation abusive des données est réduit au minimum.

Deux mois plus tard, la pandémie a miraculeusement disparu : il semble que 60 % des personnes aient respecté les protocoles de prévention de base, c'est-à-dire porter un masque lorsque le détecteur de particules d'air émet une alarme et indique la présence du virus, et s'isoler chez soi en cas de test positif. Cette mesure a suffi à réduire encore le taux de transmission, déjà considérablement abaissé grâce à une filtration de l'air passive, à moins de 1. Un modèle de simulation a montré qu'une maladie qui pourrait être cinq fois plus grave que la pandémie de COVID-19 d'il y a vingt ans n'a cependant pas eu d'impact significatif.

L'événement d/acc organisé par Devcon a obtenu un résultat extrêmement positif, à savoir que le concept d'd/acc a réussi à rassembler des personnes provenant de différents domaines et a véritablement suscité leur vif intérêt pour le travail des uns et des autres.

Organiser un événement "diversifié" n'est pas une tâche difficile, mais permettre à des personnes de différents horizons et centres d'intérêt d'établir des liens étroits est en revanche beaucoup plus difficile. Je me souviens encore de mes expériences au collège et au lycée, où j'étais contraint de regarder de longues opéras, que je trouvais personnellement ennuyeux. Je savais que je "devrais" les apprécier, car sinon, je serais perçu comme un paresseux sans culture en informatique, mais je n'ai pas réussi à résonner à un niveau plus profond avec le contenu de l'opéra. Cependant, l'atmosphère de l'événement d/d'acc était complètement différente : on avait l'impression que les gens aimaient sincèrement découvrir différents types de travaux.

Si nous désirons construire un avenir plus lumineux que la domination, le ralentissement et la destruction, il est impératif de développer ce type d'alliance étendue. d/acc semble avoir obtenu des résultats significatifs à cet égard, et rien que cela suffit à souligner la valeur précieuse de cette idée.

L'idée centrale de d/acc est claire et concise : une accélération défensive décentralisée, démocratique et différenciée. Construire des technologies pouvant favoriser un équilibre entre attaque et défense en se penchant vers la défense, sans dépendre de la remise de plus de pouvoir à des autorités centrales dans le processus d'implémentation. Il existe un lien intrinsèque étroit entre ces deux aspects : toute structure politique décentralisée, démocratique ou libre a tendance à prospérer lorsque la défense est facilement réalisable, tandis qu'elle sera confrontée à de sévères défis lorsque la défense fait face à de grandes difficultés — dans ces cas, le résultat le plus probable est une période de chaos où chacun s'oppose à l'autre, aboutissant finalement à un état d'équilibre dominé par les plus forts.

Une façon de comprendre l'importance d'essayer d'implémenter simultanément la décentralisation, la défense et l'accélération, est de la comparer aux idées générées par l'abandon de l'un de ces trois aspects.

Accélération décentralisée, mais néglige la partie "défense différenciée".

Essentiellement, cela ressemble à devenir un efficace accélérationniste ( e/acc ), tout en poursuivant la décentralisation. Il y a beaucoup de gens qui adoptent cette approche, dont certains se décrivent comme d/acc, mais ils décrivent avantageusement leur propre accent comme "offensif". De plus, il y a beaucoup d'autres qui manifestent un enthousiasme plus modéré pour "l'IA décentralisée" et des sujets similaires, mais à mon avis, leur attention sur les aspects "défensifs" est manifestement insuffisante.

À mon avis, cette approche pourrait éviter le risque d'une dictature mondiale par un groupe spécifique, mais elle ne résout pas les problèmes structurels sous-jacents : dans un environnement favorable à l'attaque, il existe toujours un risque continu de catastrophe, ou quelqu'un pourrait se positionner comme protecteur et occuper une position dominante de manière permanente. En ce qui concerne l'IA, elle ne peut pas non plus résoudre correctement le risque d'affaiblissement du pouvoir de l'humanité par rapport à l'IA.

La défense différenciée s'accélère, mais ignore "la décentralisation et la démocratie"

Pour atteindre des objectifs de sécurité en acceptant un contrôle centralisé, cela a toujours un certain attrait pour une partie des gens. Les lecteurs sont sans doute déjà familiers avec de nombreux exemples de ce type et les inconvénients qu'ils entraînent. Récemment, certaines personnes s'inquiètent que le contrôle centralisé extrême pourrait être la seule voie pour faire face aux technologies extrêmes à venir : par exemple, imaginez un scénario hypothétique où "chacun porte une 'étiquette de liberté' - un produit dérivé des dispositifs de surveillance portables plus limités d'aujourd'hui, similaire aux bracelets de cheville utilisés par certains pays comme alternative à l'incarcération... des vidéos et des audios cryptés sont continuellement téléchargés et interprétés en temps réel par des machines". Cependant, le contrôle centralisé pose un problème de degré. Une forme de contrôle centralisé relativement modérée, souvent ignorée mais néanmoins nuisible, se manifeste dans le domaine des biotechnologies (, par exemple la résistance du public à la surveillance concernant les aliments et les vaccins ), ainsi que la possibilité de permettre à cette résistance d'agir sans être contestée par des normes closes.

Les risques de cette méthode sont évidents, à savoir que le centre lui-même devient souvent la source de risque. Nous avons déjà été témoins de cela pendant la pandémie de COVID-19, où des recherches fonctionnelles financées par plusieurs gouvernements mondiaux majeurs pourraient être à l'origine de la pandémie, une épistémologie centralisée ayant conduit l'Organisation mondiale de la santé à refuser pendant des années de reconnaître que le virus COVID était transmis par l'air, tandis que les distances sociales obligatoires et les mandats de vaccination ont déclenché des réactions politiques qui pourraient durer des décennies. Une situation similaire est très susceptible de se reproduire dans tout contexte de risque lié à l'IA ou à d'autres technologies à risque. En revanche, une approche décentralisée serait plus efficace pour faire face aux risques provenant du centre lui-même.

Défense décentralisée, mais rejet de l'accélération

En essence, il s'agit de tenter de ralentir les progrès technologiques ou de promouvoir une récession économique.

Cette stratégie fait face à un double défi. Tout d'abord, dans l'ensemble, la croissance technologique et économique est extrêmement bénéfique pour l'humanité, et tout retard à cet égard entraînera des coûts incalculables. Deuxièmement, dans un monde non autoritaire, le statu quo est instable : ceux qui "trichent" le plus, capables de trouver des moyens apparemment raisonnables de continuer à avancer, auront l'avantage. La stratégie du ralentissement peut fonctionner dans certains contextes spécifiques : par exemple, la nourriture européenne est plus saine que la nourriture américaine, c'est un exemple ; le succès de la non-prolifération nucléaire jusqu'à présent en est un autre. Cependant, ces stratégies ne peuvent pas fonctionner indéfiniment.

Nous nous engageons à atteindre les objectifs suivants via d/acc :

• Dans le contexte d'une tendance de plus en plus tribale dans le monde d'aujourd'hui, il est important de tenir bon sur ses principes, et non simplement de construire aveuglément diverses choses - au contraire, nous espérons construire des choses spécifiques pour rendre le monde plus sûr et meilleur.
• Reconnaître que le progrès technologique exponentiel signifie que le monde deviendra extrêmement étrange, et que l'"empreinte" globale de l'humanité dans l'univers ne pourra qu'augmenter. Notre capacité à protéger les animaux, les plantes et les populations vulnérables contre les dommages doit continuellement s'améliorer, et la seule voie à suivre est d'aller de l'avant.
• Construire des technologies qui protègent réellement nos intérêts, plutôt que de se baser sur l'hypothèse que "les bonnes personnes ( ou une bonne IA ) contrôlent tout". Nous atteignons cet objectif en développant des outils qui sont naturellement plus efficaces pour construire et protéger que pour détruire.

Une autre perspective sur d/acc consiste à revenir à un cadre du mouvement des pirates européens à la fin des années 2000 : l'autonomisation.

Notre objectif est de construire un monde capable de préserver l'autonomie humaine, d'atteindre la liberté négative, c'est-à-dire d'éviter que d'autres (, qu'il s'agisse de citoyens ordinaires, de gouvernements ou de super-intelligences artificielles ), n'interviennent de manière active dans notre capacité à façonner notre propre destin, tout en réalisant la liberté positive, c'est-à-dire en veillant à ce que nous disposions des connaissances et des ressources pour exercer cette capacité. Cela fait écho à une tradition de libéralisme classique qui s'étend sur plusieurs siècles, englobant l'attention de Stewart Brand sur "l'accès aux outils" et l'accent que John Stuart Mill met sur l'éducation et la liberté en tant qu'éléments clés du progrès humain - peut-être pourrait-on également ajouter la vision de Buckminster Fuller selon laquelle le processus de résolution des problèmes mondiaux est participatif et largement distribué. Compte tenu du paysage technologique du XXIe siècle, nous pouvons considérer d/acc comme un moyen d'atteindre ces mêmes objectifs.

Troisième dimension : Développement synergique de la survie et de la prospérité

Dans mon article de l'année dernière, d/acc s'est particulièrement concentré sur les technologies de défense : défense physique, défense biologique, défense réseau et défense de l'information. Cependant, une défense décentralisée pure n'est pas suffisante pour construire un grand monde : nous avons également besoin d'une vision proactive et prospective, clarifiant ce que l'humanité peut réaliser après avoir acquis une nouvelle décentralisation et sécurité.