d/acc : un retour et des perspectives un an plus tard

L'année dernière, j'ai rédigé un article sur l'optimisme technologique, exposant mon enthousiasme général pour la technologie et les énormes avantages qu'elle apporte. J'ai également exprimé une attitude prudente envers certains problèmes, en me concentrant principalement sur l'intelligence artificielle super intelligente et ses risques potentiels.

Le point central de l'article est de promouvoir une idée : une accélération défensive décentralisée, démocratique et différenciée. Nous devons accélérer le développement technologique, mais en nous concentrant sélectivement sur les technologies qui peuvent améliorer la capacité de défense plutôt que de destruction, et nous nous engageons à encourager la dispersion du pouvoir, évitant ainsi la concentration du pouvoir entre les mains de quelques élites.

Au cours de l'année, ces idées et concepts ont connu un développement et une maturation significatifs. J'ai partagé ces réflexions sur la plateforme "80 000 heures" et j'ai reçu de nombreuses réponses, la plupart étant positives, bien sûr, il y a aussi quelques critiques.

Ce travail progresse continuellement et a réalisé des avancées substantielles : des percées ont été faites dans le domaine des vaccins open source vérifiables ; la compréhension de la valeur de l'air intérieur sain s'approfondit ; les "notes communautaires" continuent de jouer un rôle positif ; le marché prédictif connaît une année de percée en tant qu'outil d'information ; les preuves nulles sont appliquées dans l'identification gouvernementale et les réseaux sociaux ; des outils d'imagerie open source sont utilisés dans le domaine médical et des interfaces cerveau-machine, etc.

L'automne dernier, nous avons accueilli notre premier événement important d'ACC : "Journée de découverte d'ACC" ( d/aDDy ), qui a rassemblé des intervenants des différents domaines piliers d'ACC (, notamment la biologie, la physique, le réseau, la défense de l'information et la technologie neuronale ), et a duré toute la journée. Les personnes qui se consacrent depuis longtemps à ces technologies ont mieux compris le travail des autres, et les personnes extérieures prennent de plus en plus conscience de cette vision plus vaste : promouvoir des valeurs similaires au développement d'Ethereum et de la cryptomonnaie qui peuvent s'étendre à un monde plus large.

La signification et l'étendue de d/acc

L'idée centrale de d/acc peut être résumée comme suit : une accélération défensive décentralisée, démocratique et différenciée. Construire des technologies capables de favoriser un équilibre entre attaque et défense en faveur de la défense, sans dépendre de l'octroi de plus de pouvoir à des autorités centrales durant le processus de mise en œuvre. Il existe un lien intrinsèque étroit entre ces deux aspects : toute structure politique décentralisée, démocratique ou libre a tendance à prospérer lorsque la défense est facile à mettre en œuvre, tandis qu'elle fait face à de sérieux défis lorsque la défense est confrontée à de nombreuses difficultés.

Une façon de comprendre l'importance d'essayer d'atteindre à la fois la décentralisation, la défense et l'accélération est de la comparer aux idées générées par l'abandon de l'un de ces trois aspects.

Accélération décentralisée, mais négligeant la partie "défense différenciée"

Cela ressemble à devenir un efficace accélérationniste ( e/acc ), tout en poursuivant la décentralisation. Il y a beaucoup de gens qui adoptent cette approche, certains se qualifiant d' acc, mais ils décrivent avantageusement leur propre mise en avant comme "offensive". De plus, il y a beaucoup d'autres qui montrent un enthousiasme plus modéré pour "l'intelligence artificielle décentralisée" et des sujets similaires, mais à mon avis, leur attention à l'aspect "défensif" est manifestement insuffisante.

Cette méthode pourrait éviter le risque d'une dictature mondiale exercée par des groupes spécifiques, mais elle ne résout pas les problèmes structurels sous-jacents : dans un environnement favorable à l'attaque, il existe toujours un risque constant de catastrophe, ou quelqu'un pourrait se positionner comme protecteur et occuper une position dominante de manière permanente. En ce qui concerne l'intelligence artificielle, elle ne parvient pas non plus à traiter correctement le risque d'affaiblissement du pouvoir de l'humanité par rapport à l'intelligence artificielle.

Défense différenciée accélérée, mais ignorant "décentralisation et démocratie"

Accepter le contrôle centralisé pour atteindre des objectifs de sécurité a toujours une certaine attraction pour une partie des gens. Récemment, certaines personnes s'inquiètent que le contrôle centralisé extrême pourrait être le seul moyen de faire face aux technologies extrêmes à venir. Cependant, il existe un problème de degré avec le contrôle centralisé. Une forme de contrôle centralisé relativement modérée, souvent négligée mais toujours nuisible, se manifeste dans la résistance à la supervision publique dans le domaine des biotechnologies, ainsi que dans la permissivité de cette résistance sans contestation grâce à des normes fermées.

Les risques de cette approche sont évidents, à savoir que le centre lui-même devient souvent la source du risque. Nous l'avons déjà constaté pendant la pandémie de COVID-19, où des recherches fonctionnelles financées par plusieurs gouvernements mondiaux pourraient être à l'origine de la pandémie, une épistémologie centralisée ayant conduit l'Organisation mondiale de la santé à refuser pendant des années de reconnaître que le virus COVID-19 se propage par voie aérienne, tandis que la distanciation sociale obligatoire et l'obligation de vaccination ont entraîné des réactions politiques qui pourraient durer des décennies. Une situation similaire pourrait très probablement se reproduire dans n'importe quel scénario de risque lié à l'intelligence artificielle ou à d'autres technologies à risque. En revanche, une approche décentralisée répondra plus efficacement aux risques provenant du centre lui-même.

Défense décentralisée, mais rejet de l'accélération

En essence, il s'agit d'une tentative de ralentir les progrès technologiques ou de favoriser la récession économique.

Cette stratégie fait face à un double défi. Tout d'abord, dans l'ensemble, la croissance technologique et économique est extrêmement bénéfique pour l'humanité, et tout retard à cet égard entraînera des coûts difficilement mesurables. Ensuite, dans un monde non autoritaire, la stagnation est instable : ceux qui "trichent" le plus, capables de trouver des moyens apparemment raisonnables de continuer à progresser, auront un avantage. La stratégie de ralentissement peut fonctionner dans certaines situations spécifiques : par exemple, la nourriture en Europe est plus saine que la nourriture aux États-Unis, c'est un exemple ; le succès de la non-prolifération nucléaire jusqu'à présent en est un autre. Cependant, ces stratégies ne peuvent pas fonctionner indéfiniment.

À travers d/acc, nous nous engageons à atteindre les objectifs suivants :

• Dans un monde de plus en plus tribalisé, tenir fermement à des principes, et ne pas se contenter de construire aveuglément diverses choses - au contraire, nous espérons construire des choses spécifiques pour rendre le monde plus sûr et meilleur.
• Reconnaître que les avancées technologiques exponentielles signifient que le monde deviendra extrêmement étrange, et que l'empreinte globale de l'humanité dans l'univers continuera d'augmenter. Notre capacité à protéger les animaux, les plantes et les populations vulnérables des dommages doit continuer à s'améliorer, et le seul moyen est d'aller de l'avant.
• Construire des technologies qui protègent réellement, plutôt que de se baser sur l'hypothèse que "de bonnes personnes ( ou une bonne intelligence artificielle ) contrôlent tout". Nous atteignons cet objectif en construisant des outils qui sont naturellement plus efficaces pour créer et protéger que pour détruire.

Une autre perspective sur d/acc est de revenir à un cadre du mouvement des pirates en Europe à la fin des années 2000 : l'autonomisation.

Notre objectif est de construire un monde capable de préserver l'autonomie humaine, en réalisant la liberté négative, c'est-à-dire en évitant que d'autres (, qu'il s'agisse de citoyens ordinaires, de gouvernements ou de super-intelligences artificielles ), n'interfèrent activement dans notre capacité à façonner notre propre destin, tout en réalisant la liberté positive, c'est-à-dire en s'assurant que nous disposons des connaissances et des ressources nécessaires pour exercer cette capacité. Cela résonne avec une tradition du libéralisme classique qui se prolonge depuis des siècles, englobant l'attention de Stewart Brand sur "l'acquisition d'outils" ainsi que l'accent mis par John Stuart Mill sur l'éducation et la liberté comme éléments clés du progrès humain - il peut également être ajouté que la vision de Buckminster Fuller, selon laquelle le processus de résolution des problèmes mondiaux est participatif et largement distribué. Compte tenu du paysage technologique du XXIe siècle, nous pouvons considérer d/acc comme un moyen d'atteindre ces mêmes objectifs.

Troisième dimension : Co-développement de la survie et de la prospérité

Dans mon article de l'année dernière, d/acc s'est particulièrement concentré sur les technologies de défense : défense physique, défense biologique, défense numérique et défense de l'information. Cependant, une défense décentralisée pure ne suffit pas à construire un grand monde : nous avons également besoin d'une vision proactive et prospective, clarifiant quels objectifs l'humanité peut atteindre après avoir acquis une nouvelle décentralisation et sécurité.

L'article de l'année dernière contenait en effet une vision positive à deux égards:

1. En considérant les défis de l'intelligence surhumaine, j'ai proposé un chemin ( qui n'est pas original pour moi ), à savoir comment réaliser une intelligence surhumaine sans perdre de pouvoir :

• Actuellement, construire l'intelligence artificielle comme un outil, et non comme un agent autonome très avancé.
• À l'avenir, utiliser des outils tels que la réalité virtuelle, la technologie EMG et les interfaces cerveau-machine pour établir un mécanisme de feedback plus étroit entre l'intelligence artificielle et l'humanité.
• Au fil du temps, nous nous dirigeons progressivement vers une conclusion finale, à savoir que l'intelligence super est le produit d'une fusion étroite entre les machines et les humains.

2. En parlant de la défense de l'information, j'ai également mentionné que, en plus des technologies sociales défensives visant à aider la communauté à rester cohésive et à mener des discussions de haute qualité face aux attaquants, il existe des technologies sociales progressistes qui permettent à la communauté de prendre plus facilement des jugements de haute qualité : Pol.is en est un exemple, tout comme le marché prédictif.

Mais à l'époque, ces deux points semblaient déconnectés du cœur de l'argument de d/acc : "Il y a ici quelques idées sur la construction d'un monde plus démocratique et plus propice à la défense à un niveau fondamental, et au passage, il y a aussi quelques idées non liées sur la façon dont nous réalisons une super-intelligence."

Cependant, je pense qu'il existe dans la réalité des liens cruciaux entre les technologies d'accélération/d'accélération marquées comme "défensives" et "progressistes" ci-dessus. Élargissons le graphique d'accélération/d'accélération de l'article de l'année dernière en ajoutant cet axe ( tout en le renommant "survie et prospérité" ), pour voir quel résultat cela pourrait donner:

Il existe un modèle cohérent dans divers domaines, à savoir que les sciences, les idées et les outils qui peuvent nous aider à "survivre" dans un domaine donné sont étroitement liés à ceux qui peuvent nous aider à "prospérer". Voici quelques exemples concrets :

• De nombreuses recherches récentes sur la lutte contre le Covid-19 se concentrent sur la présence persistante du virus dans l'organisme, ce qui est considéré comme un mécanisme clé du problème du long Covid. Récemment, il y a également des signes indiquant que la présence persistante du virus pourrait être un facteur pathogène de la maladie d'Alzheimer - si cette idée est valide, alors résoudre le problème de la présence persistante du virus dans tous les types de tissus pourrait devenir la clé pour surmonter le problème du vieillissement.
• Des outils d'imagerie à faible coût et miniaturisés, comme ceux en cours de développement par OpenWater, ont un potentiel énorme dans le traitement des microcaillots, de la persistance virale, du cancer, etc., et peuvent également être appliqués dans le domaine des interfaces cerveau-machine.
• Promouvoir la construction d'outils sociaux adaptés à des environnements hautement antagonistes ( tels que les notes communautaires ) et des outils sociaux pour un environnement de coopération raisonnable ( tels que Pol.is ) est une idée extrêmement similaire.
• Les marchés prédictifs ont une valeur importante tant dans un environnement de haute coopération que dans un environnement de haute confrontation.
• Les preuves à divulgation nulle de connaissance et les technologies similaires permettent de calculer des données tout en protégeant la vie privée, augmentant ainsi la quantité de données utilisables pour des travaux bénéfiques tels que la recherche scientifique, tout en renforçant la protection de la vie privée.
• L'énergie solaire et les batteries sont d'une importance capitale pour propulser la prochaine vague de croissance économique propre, tout en montrant d'excellentes performances en termes de décentralisation et de résilience physique.

En outre, il existe également d'importantes relations d'interdépendance entre différents domaines disciplinaires :

• L'interface cerveau-machine est essentielle en tant que technologie de défense de l'information et de collaboration, car elle permet une communication plus fine de nos pensées et intentions. L'interface cerveau-machine n'est pas seulement une connexion entre les robots et la conscience : elle peut également être une interaction entre la conscience, le robot et la conscience. Cela résonne avec la valeur de l'interface cerveau-machine dans l'idée de pluralité.
• De nombreuses biotechnologies dépendent du partage d'informations, et dans de nombreux cas, les gens ne sont prêts à partager des informations que s'ils sont certains que celles-ci ne seront utilisées que pour des applications spécifiques. Cela repose sur des technologies de confidentialité ( telles que les preuves à divulgation nulle de connaissance, le chiffrement homomorphe, les techniques d'obfuscation, etc. ).
• La technologie de collaboration peut être utilisée pour coordonner le financement de tout autre domaine technologique.

![Vitalik nouvel article : comment le décélérisme décentralisé lie les cryptomonnaies et l'IA ?](