d/acc: Una revisión y perspectivas un año después

El año pasado, escribí un artículo sobre el optimismo tecnológico, en el que expuse mi entusiasmo general por la tecnología y los enormes beneficios que esta conlleva. Al mismo tiempo, también expresé una actitud cautelosa hacia ciertos problemas, centrándome principalmente en la superinteligencia artificial y sus riesgos potenciales.

El punto central del artículo es abogar por una filosofía: una aceleración defensiva que sea descentralizada, democrática y diferenciada. Debemos acelerar el desarrollo tecnológico, pero de manera selectiva, enfocándonos en tecnologías que puedan mejorar la capacidad defensiva en lugar de la capacidad destructiva, y comprometernos a promover la dispersión del poder, evitando que el poder se concentre en manos de unos pocos élites.

A lo largo de un año, estas ideas y conceptos han experimentado un desarrollo y madurez significativos. He compartido estas ideas en la plataforma "80,000 horas" y he recibido numerosas respuestas, la mayoría positivas, aunque también ha habido algunas voces críticas.

Este trabajo sigue avanzando y ha logrado progresos sustanciales: se han logrado avances en el campo de las vacunas de código abierto verificables; la comprensión del valor del aire interior saludable está en constante profundización; los "cuadernos comunitarios" continúan desempeñando un papel positivo; el mercado de predicciones ha tenido un año de ruptura como herramienta de información; las pruebas de conocimiento cero se han aplicado en la identificación gubernamental y en las redes sociales; y las herramientas de imagen de código abierto han encontrado aplicaciones en los campos de la medicina y las interfaces cerebro-máquina, entre otros.

En otoño del año pasado, celebramos nuestro primer evento importante de d/acc: "Día de Descubrimiento de d/acc"(d/aDDy), el evento reunió a ponentes de diversos campos pilares de d/acc( biología, física, redes, defensa de la información, así como tecnología neural), y duró todo el día. Las personas que han estado comprometidas durante mucho tiempo con estas tecnologías entendieron mejor el trabajo de los demás, y los forasteros también se dieron cuenta cada vez más de esta visión más amplia: los mismos valores que impulsan el desarrollo de Ethereum y las criptomonedas pueden extenderse a un mundo más amplio.

Contenido y extensión de d/acc

La idea central de d/acc se puede resumir de manera concisa: aceleración defensiva descentralizada, democrática y diferenciada. Construir tecnologías que puedan inclinar el equilibrio ofensivo-defensivo hacia la defensa, sin depender de otorgar más poder a las autoridades centrales durante el proceso de implementación. Existe una conexión intrínseca y estrecha entre estos dos aspectos: cualquier estructura política descentralizada, democrática o libre tiende a prosperar cuando la defensa es fácil de implementar, mientras que enfrenta serios desafíos cuando la defensa se encuentra con múltiples dificultades.

Una forma de comprender la importancia de intentar realizar simultáneamente la descentralización, la defensa y la aceleración es compararla con la idea que surge al renunciar a cualquiera de estos tres aspectos.

Aceleración descentralizada, pero ignorando la parte de "defensa diferenciada"

Esto es similar a convertirse en un aceleracionista efectivo (e/acc), pero al mismo tiempo buscando la descentralización. Hay muchas personas que adoptan este enfoque, algunos de los cuales se autodenominan d/acc, pero describen su enfoque de manera beneficiosa como "ofensivo". Además, hay muchas otras personas que muestran un entusiasmo más moderado por la "inteligencia artificial descentralizada" y temas similares, pero en mi opinión, su atención al aspecto de "defensa" es claramente insuficiente.

Este enfoque puede evitar el riesgo de que un grupo específico imponga un régimen de dictadura sobre la humanidad global, pero no logra resolver los problemas estructurales subyacentes: en un entorno que favorece la ofensiva, siempre existe el riesgo continuo de que se produzcan desastres, o que alguien se posicione como protector y ocupe permanentemente la posición de dominio. En cuanto a la inteligencia artificial, tampoco puede abordar adecuadamente el riesgo de que el poder de la humanidad en su conjunto se vea debilitado en relación con la inteligencia artificial.

Defensa diferenciada acelerada, pero ignorando "descentralización y democracia"

Aceptar el control centralizado para lograr objetivos de seguridad siempre ha tenido cierto atractivo para algunas personas. Recientemente, algunas personas expresan preocupación de que el control central extremo podría ser la única forma de enfrentar las tecnologías extremas del futuro. Sin embargo, hay un problema de grado con el control centralizado. Una forma de control central relativamente moderada que se suele pasar por alto pero que sigue siendo perjudicial se refleja en la resistencia a la supervisión pública en el ámbito de la biotecnología, así como en la falta de cuestionamiento de las normas de código cerrado que permiten esta resistencia.

Los riesgos de este enfoque son evidentes, ya que el centro en sí a menudo puede convertirse en la fuente de riesgo. Ya lo vimos durante la pandemia de COVID-19, donde la investigación funcional financiada por varios gobiernos mundiales podría ser la raíz del brote, y la epistemología centralizada llevó a la Organización Mundial de la Salud a rechazar durante años el reconocimiento de que el virus COVID-19 se transmite por el aire, mientras que el distanciamiento social obligatorio y las mandatos de vacunación provocaron una posible reacción política que podría durar décadas. Situaciones similares son muy probables de ocurrir nuevamente en cualquier contexto de riesgo relacionado con la inteligencia artificial u otras tecnologías de riesgo. En comparación, un enfoque descentralizado abordará de manera más efectiva los riesgos provenientes del centro mismo.

Defensa descentralizada, pero rechazo a la aceleración

En esencia, esto es un intento de frenar el avance tecnológico o impulsar una recesión económica.

Esta estrategia enfrenta un doble desafío. En primer lugar, en general, el crecimiento tecnológico y económico es extremadamente beneficioso para la humanidad, y cualquier retraso en ello conllevará costos incalculables. En segundo lugar, en un mundo no autoritario, la inacción es inestable: aquellos que "hacen trampa" más, que pueden encontrar maneras aparentemente razonables de seguir avanzando, tendrán ventaja. La estrategia del desaceleracionismo puede funcionar en cierta medida en contextos específicos: por ejemplo, la comida en Europa es más saludable que la comida en Estados Unidos, lo cual es un ejemplo; el éxito del no-proliferación nuclear hasta ahora también es así. Sin embargo, estas estrategias no pueden funcionar para siempre.

A través de d/acc, nos comprometemos a lograr los siguientes objetivos:

• Mantener principios en un mundo cada vez más tribalizado, y no simplemente construir cosas de manera ciega; al contrario, esperamos construir cosas específicas para hacer que el mundo sea más seguro y mejor.
• Reconocer que el avance tecnológico exponencial significa que el mundo se volverá extremadamente extraño, y que la "huella" general de la humanidad en el universo necesariamente seguirá aumentando. Nuestra capacidad para proteger a los animales, plantas y poblaciones vulnerables de daños debe seguir mejorando, y la única salida es avanzar con valentía.
• Construir tecnologías que realmente nos protejan, en lugar de basarse en la suposición de que "buenas personas ( o buena inteligencia artificial ) controlan todo". Logramos esto construyendo herramientas que son naturalmente más efectivas para construir y proteger que para destruir.

Una manera de pensar en d/acc es regresar a un marco del movimiento del Partido Pirata en Europa a finales de los años 2000: empoderamiento.

Nuestro objetivo es construir un mundo que pueda preservar la agencia humana, logrando la libertad negativa, es decir, evitando que otros (, ya sean ciudadanos comunes, gobiernos o súper inteligencias artificiales ), intervengan activamente en nuestra capacidad para moldear nuestro propio destino, al mismo tiempo que logramos la libertad positiva, es decir, asegurando que tengamos el conocimiento y los recursos para ejercer esa capacidad. Esto responde a una tradición de liberalismo clásico que se ha mantenido durante siglos, que abarca la preocupación de Stewart Brand por la "accesibilidad a herramientas", así como la énfasis de John Stuart Mill en la educación y la libertad como elementos clave del progreso humano—quizás también se podría añadir la visión de Buckminster Fuller de que el proceso de resolver problemas globales debe ser participativo y ampliamente distribuido. Dada la configuración tecnológica del siglo XXI, podemos ver d/acc como un camino para lograr esos mismos objetivos.

Tercera dimensión: Desarrollo conjunto de la supervivencia y la prosperidad

En mi artículo del año pasado, d/acc se centró especialmente en las tecnologías defensivas: defensa física, defensa biológica, defensa cibernética y defensa de la información. Sin embargo, la defensa descentralizada por sí sola no es suficiente para construir un gran mundo: también necesitamos una visión proactiva y a futuro que aclare qué objetivos puede lograr la humanidad tras obtener una nueva descentralización y seguridad.

El artículo del año pasado contenía efectivamente una visión positiva en dos aspectos:

1. Al considerar los desafíos de la superinteligencia, propuse un camino ( que no es original para mí ), es decir, cómo lograr la superinteligencia sin perder poder:

• En la actualidad, construir la inteligencia artificial como una herramienta, y no como un agente altamente autónomo.
• En el futuro, se establecerá un mecanismo de retroalimentación más estrecho entre la inteligencia artificial y los humanos mediante el uso de herramientas como la realidad virtual, la tecnología de electromiografía y las interfaces cerebro-máquina.
• A medida que pasa el tiempo, avanzamos gradualmente hacia el desenlace final, que es que la superinteligencia es el producto de la estrecha fusión entre máquinas y humanos.

2. Al hablar de la defensa de la información, también mencioné que, además de aquellas tecnologías sociales defensivas que buscan ayudar a la comunidad a mantener la cohesión y tener discusiones de alta calidad frente a los atacantes, existen tecnologías sociales progresistas que permiten a la comunidad tomar decisiones de alta calidad con mayor facilidad: Pol.is es un ejemplo, al igual que el mercado de predicción.

Pero en ese momento, estos dos puntos parecían desconectados del argumento central de d/acc: "Aquí hay algunas ideas sobre cómo construir un mundo más democrático y defensivo a nivel fundamental, y por cierto, aquí hay algunas ideas no relacionadas sobre cómo lograr una superinteligencia".

Sin embargo, creo que en la realidad hay algunas conexiones cruciales entre las tecnologías d/acc que se etiquetan como "defensivas" y "progresivas". Ampliemos el gráfico d/acc del artículo del año pasado, añadiendo este eje ( mientras lo renombramos como "supervivencia y prosperidad" ), para ver qué resultados se presentan:

En todos los campos existe un patrón consistente, es decir, la ciencia, el pensamiento y las herramientas que pueden ayudarnos a "sobrevivir" en un área están estrechamente relacionados con la ciencia, el pensamiento y las herramientas que pueden ayudarnos a "prosperar". A continuación se presentan algunos ejemplos concretos:

• Muchos estudios recientes sobre la resistencia al COVID-19 se han centrado en la persistencia del virus en el cuerpo, lo que se considera un mecanismo clave del problema del COVID prolongado. Recientemente, también ha habido indicios de que la persistencia del virus podría ser un factor patogénico en la enfermedad de Alzheimer; si esta perspectiva se confirma, abordar el problema de la persistencia del virus en todos los tipos de tejidos podría ser la clave para resolver el problema del envejecimiento.
• Herramientas de imagen de bajo costo y micro, como las que está desarrollando OpenWater, tienen un gran potencial en el tratamiento de microtrombos, la persistencia de virus, el cáncer, entre otros, y también se pueden aplicar en el campo de las interfaces cerebro-máquina.
• Promover la construcción de herramientas sociales adecuadas para entornos altamente adversariales (, como las notas comunitarias ), y herramientas sociales para entornos de cooperación razonable (, como Pol.is ), es extremadamente similar en concepto.
• Los mercados de predicción tienen un valor importante tanto en entornos de alta cooperación como de alta confrontación.
• Las pruebas de conocimiento cero y tecnologías similares realizan cálculos sobre los datos mientras protegen la privacidad, aumentando tanto la cantidad de datos disponibles para trabajos útiles como la investigación científica, como mejorando la protección de la privacidad.
• La energía solar y las baterías son fundamentales para impulsar la próxima ola de crecimiento económico limpio, al mismo tiempo que destacan en descentralización y resiliencia física.

Además, hay una importante interdependencia entre diferentes disciplinas.

• Las interfaces cerebro-máquina son fundamentales como una tecnología de defensa de la información y colaboración, ya que permiten una comunicación más precisa de nuestros pensamientos e intenciones. Las interfaces cerebro-máquina no son solo una conexión entre robots y conciencia: también pueden ser interacciones entre conciencia-robot-conciencia. Esto resuena con el valor de las interfaces cerebro-máquina en la idea de la pluralidad.
• Muchas biotecnologías dependen del intercambio de información, y en muchos casos, las personas solo están dispuestas a compartir información cuando están seguras de que se utilizará únicamente para aplicaciones específicas. Esto depende de tecnologías de privacidad ( como pruebas de conocimiento cero, cifrado totalmente homomórfico, técnicas de ofuscación, etc. ).
• La tecnología de colaboración puede ser utilizada para coordinar la financiación de cualquier otro campo tecnológico.

![Vitalik nuevo artículo: ¿Cómo el aceleracionismo descentralizado une las criptomonedas y la IA?](