d/acc: Uma retrospectiva e perspetiva um ano depois

No ano passado, escrevi um artigo sobre o otimismo tecnológico, expressei meu entusiasmo geral pela tecnologia e os enormes benefícios que ela traz. Ao mesmo tempo, manifestei uma atitude cautelosa em relação a certos problemas, focando principalmente na superinteligência artificial e seus riscos potenciais.

O ponto central do artigo é promover uma filosofia: uma aceleração defensiva descentralizada, democrática e diferenciada. Precisamos acelerar o desenvolvimento tecnológico, mas focando seletivamente em tecnologias que possam aumentar a capacidade de defesa, em vez de capacidades destrutivas, e comprometendo-nos a promover a descentralização do poder, evitando que este se concentre nas mãos de poucos elites.

Ao longo do ano, essas ideias e conceitos passaram por um desenvolvimento e amadurecimento significativos. Compartilhei essas ideias na plataforma "80,000 horas" e recebi várias respostas, a maioria positivas, mas é claro que também houve algumas críticas.

Este trabalho continua a avançar e a obter progressos substanciais: houve avanços no campo das vacinas de código aberto verificáveis; a percepção do valor do ar interior saudável está a aprofundar-se; as "notas da comunidade" continuam a desempenhar um papel positivo; os mercados preditivos estão a ter um ano de grandes avanços como ferramentas de informação; as provas de conhecimento zero estão a ser aplicadas na identificação de identidade governamental e nas redes sociais; ferramentas de imagem de código aberto estão a ser aplicadas na medicina e nas interfaces cérebro-máquina, entre outros.

No outono passado, recebemos o nosso primeiro evento importante de d/acc: "Dia de Descoberta d/acc"(d/aDDy), o evento reuniu oradores de diversos domínios pilares de d/acc(, biologia, física, redes, defesa da informação, e também tecnologia neural), e durou um dia inteiro. As pessoas que se dedicam a essas tecnologias há muito tempo conheceram melhor o trabalho umas das outras, e os externos também começaram a perceber essa visão mais ampla: o mesmo conjunto de valores que impulsiona o desenvolvimento do Ethereum e das criptomoedas pode se expandir para um mundo mais amplo.

O significado e a extensão de d/acc

A ideia central do d/acc é simples e clara: aceleração defensiva descentralizada, democrática e diferenciada. Construir tecnologias que possam inclinar o equilíbrio entre ataque e defesa em direção à defesa, sem depender de conceder mais poder a uma autoridade central durante o processo de implementação. Existe uma ligação intrínseca e estreita entre esses dois aspectos: qualquer estrutura política descentralizada, democrática ou livre tende a prosperar quando a defesa é fácil de implementar, mas enfrenta desafios severos quando a defesa é difícil.

Uma maneira de compreender a importância de tentar implementar simultaneamente a descentralização, a defesa e a aceleração é compará-la a conceitos que surgem ao abdicar de qualquer um desses três aspectos.

Aceleração descentralizada, mas ignorando a parte da "defesa diferenciada"

Isto é semelhante a tornar-se um eficaz aceleracionista ( e/acc ), mas ao mesmo tempo perseguindo a descentralização. Há muitas pessoas que adotam essa abordagem, algumas das quais se autodenominam d/acc, mas que benéficamente descrevem seu foco como "ofensivo". Além disso, há muitos outros que demonstram um entusiasmo mais moderado por "inteligência artificial descentralizada" e tópicos similares, mas, na minha opinião, a sua atenção ao aspecto "defensivo" é claramente insuficiente.

Este método pode evitar o risco de um grupo específico implementar uma ditadura sobre a humanidade global, mas não resolve os problemas estruturais subjacentes: em um ambiente propício ao ataque, existe sempre o risco contínuo de catástrofe, ou alguém pode se posicionar como protetor e ocupar permanentemente uma posição de domínio. No que diz respeito à inteligência artificial, ela também não consegue resolver adequadamente o risco de que a humanidade como um todo tenha seu poder em relação à inteligência artificial enfraquecido.

Defesa diferenciada acelerada, mas ignora "descentralização e democracia"

A aceitação do controle centralizado para alcançar objetivos de segurança sempre teve um certo apelo para algumas pessoas. Recentemente, algumas pessoas expressaram preocupação de que o controle extremo centralizado pode ser a única maneira de enfrentar tecnologias extremas no futuro. No entanto, o controle centralizado apresenta um problema de grau. Uma forma de controle centralizado relativamente moderada, que é geralmente ignorada, mas ainda assim prejudicial, se manifesta na resistência à supervisão pública no campo da biotecnologia, bem como na permissão para que essa resistência não seja contestada por normas de código fechado.

Os riscos dessa abordagem são evidentes, ou seja, o centro em si muitas vezes se torna a fonte do risco. Já testemunhamos isso durante a pandemia de COVID-19, onde a pesquisa funcional financiada por vários governos mundiais pode ter sido a raiz da pandemia, e a epistemologia centralizada levou a Organização Mundial da Saúde a se recusar a reconhecer por anos que o coronavírus é transmitido pelo ar, enquanto o distanciamento social obrigatório e os mandatos de vacinação provocaram uma possível reação política que pode durar décadas. Situações semelhantes são muito prováveis de ocorrer novamente em qualquer cenário de risco relacionado à inteligência artificial ou outras tecnologias de risco. Em comparação, uma abordagem descentralizada lidará com os riscos provenientes do próprio centro de forma mais eficaz.

Defesa descentralizada, mas rejeição à aceleração

Essencialmente, isso é uma tentativa de desacelerar o progresso tecnológico ou impulsionar a recessão econômica.

Esta estratégia enfrenta duplo desafio. Primeiro, de um modo geral, o crescimento tecnológico e econômico é extremamente benéfico para a humanidade, e qualquer atraso nisso acarretará custos incalculáveis. Em segundo lugar, em um mundo não autoritário, a estagnação é instável: aqueles que "trapaceiam" mais, sendo capazes de encontrar formas aparentemente razoáveis de continuar a promover o desenvolvimento, estarão em vantagem. A estratégia do desaceleracionismo pode funcionar, em certa medida, em contextos específicos: por exemplo, a comida na Europa é mais saudável do que a comida nos Estados Unidos, e isso é um exemplo; o sucesso alcançado até agora na não proliferação nuclear também é assim. No entanto, essas estratégias não podem funcionar para sempre.

Através do d/acc, estamos empenhados em alcançar os seguintes objetivos:

• Manter princípios na tendência cada vez mais tribal do mundo de hoje, e não apenas construir coisas de forma cega - ao contrário, esperamos construir coisas específicas, tornando o mundo mais seguro e melhor.
• Reconhecer que o avanço tecnológico exponencial significa que o mundo se tornará extremamente peculiar, e que a "pegada" global da humanidade no universo inevitavelmente continuará a aumentar. Nossa capacidade de proteger animais, plantas e populações vulneráveis contra danos deve continuar a melhorar, e a única maneira de avançar é seguir em frente.
• Construir tecnologias que realmente nos protejam, em vez de se basear na suposição de que "boas pessoas ( ou uma boa inteligência artificial ) controlam tudo". Alcançamos este objetivo construindo ferramentas que são naturalmente mais eficazes para construir e proteger do que para destruir.

Pensar na d/acc de outra perspectiva é retornar a um quadro do movimento do Partido Pirata na Europa no final da década de 2000: empoderamento.

O nosso objetivo é construir um mundo que preserve a capacidade de ação humana, realizando a liberdade negativa, ou seja, evitar que outros (, sejam cidadãos comuns, governos ou super-inteligências artificiais ), interfiram ativamente na nossa capacidade de moldar o nosso próprio destino, ao mesmo tempo que realizamos a liberdade positiva, ou seja, garantir que temos o conhecimento e os recursos para exercer essa capacidade. Isso ecoa uma tradição do liberalismo clássico que se estende por séculos, que abrange a preocupação de Stewart Brand com a "aquisição de ferramentas", assim como a ênfase de John Stuart Mill na educação e na liberdade como elementos-chave para o progresso humano — talvez se possa também acrescentar a visão de Buckminster Fuller de que o processo de resolver problemas globais deve ser participativo e amplamente distribuído. Dada a configuração tecnológica do século XXI, podemos ver d/acc como uma forma de alcançar esses mesmos objetivos.

Terceira Dimensão: Desenvolvimento Sinérgico da Sobrevivência e Prosperidade

No meu artigo do ano passado, d/acc focou especialmente nas tecnologias de defesa: defesa física, defesa biológica, defesa cibernética e defesa da informação. No entanto, a defesa descentralizada pura não é suficiente para construir um grande mundo: precisamos também de uma visão proativa e de longo prazo, que defina quais objetivos a humanidade pode alcançar após obter uma nova descentralização e segurança.

O artigo do ano passado realmente continha uma visão positiva em dois aspectos:

1. Ao considerar os desafios da superinteligência, propus um caminho ( que não é original para mim ), ou seja, como podemos alcançar a superinteligência sem perder poder:

• Atualmente, construir a inteligência artificial como uma ferramenta, e não como um agente altamente autônomo.
• No futuro, utilizar ferramentas como realidade virtual, tecnologia de eletromiografia e interfaces cérebro-máquina para estabelecer um mecanismo de feedback mais próximo entre a inteligência artificial e os seres humanos.
• Com o passar do tempo, avançamos gradualmente para o resultado final, que é a superinteligência, um produto da estreita fusão entre máquinas e humanos.

2. Ao falar sobre defesa da informação, eu também mencionei incidentalmente que, além das tecnologias sociais defensivas destinadas a ajudar as comunidades a manter a coesão e a ter discussões de alta qualidade diante dos atacantes, existem tecnologias sociais progressistas que podem ajudar as comunidades a tomar decisões de alta qualidade mais facilmente: Pol.is é um exemplo, assim como os mercados preditivos.

Mas na época, esses dois pontos pareciam desconectados do argumento central do d/acc: "Aqui estão algumas ideias sobre como construir um mundo mais democrático e mais propenso à defesa em um nível fundamental, aliás, aqui também estão algumas ideias não relacionadas sobre como alcançar a superinteligência."

No entanto, eu acredito que na realidade existem algumas conexões cruciais entre as tecnologias d/acc marcadas como "defensivas" e "progressivas". Vamos expandir o gráfico d/acc do artigo do ano passado, adicionando este eixo ( ao gráfico e renomeando-o para "sobrevivência e prosperidade" ), para ver que resultados isso apresentará:

Existe um padrão consistente em vários campos, que é o fato de que as ciências, pensamentos e ferramentas que podem nos ajudar a "sobreviver" em um determinado campo estão intimamente relacionados com as ciências, pensamentos e ferramentas que podem nos ajudar a "prosperar". Aqui estão alguns exemplos concretos:

• Muitas pesquisas recentes sobre a COVID-19 têm se concentrado na presença persistente do vírus no corpo, o que é visto como um mecanismo chave para o problema da COVID longa. Recentemente, também houve indícios de que a presença persistente do vírus pode ser um fator patogênico da doença de Alzheimer - se essa perspectiva se confirmar, resolver a questão da presença persistente do vírus em todos os tipos de tecidos pode ser a chave para enfrentar o problema do envelhecimento.
• Ferramentas de imagem de baixo custo e de microescala, como as que estão a ser desenvolvidas pela OpenWater, têm um grande potencial no tratamento de microtrombos, persistência viral, câncer, entre outros, e também podem ser aplicadas na área de interfaces cérebro-máquina.
• Incentivar a construção de ferramentas sociais adequadas a ambientes altamente hostis (, como notas comunitárias ), e ferramentas sociais para ambientes de cooperação razoável (, como o Pol.is ), é extremamente semelhante ao conceito.
• Os mercados de previsão têm um valor importante tanto em ambientes de alta cooperação quanto em ambientes de alta concorrência.
• Provas de conhecimento zero e tecnologias semelhantes realizam cálculos sobre dados enquanto protegem a privacidade, aumentando tanto a quantidade de dados disponíveis para trabalhos úteis, como a pesquisa científica, quanto reforçando a proteção da privacidade.
• A energia solar e as baterias são fundamentais para impulsionar a próxima onda de crescimento da economia limpa, ao mesmo tempo que se destacam em descentralização e resiliência física.

Além disso, existem importantes interdependências entre diferentes áreas disciplinares:

• A interface cérebro-máquina é crucial como uma tecnologia de defesa da informação e colaboração, pois permite uma comunicação mais sutil de nossos pensamentos e intenções. A interface cérebro-máquina não é apenas uma conexão entre robôs e consciência: ela também pode ser uma interação entre consciência-robô-consciência. Isso ressoa com o valor da interface cérebro-máquina na ideia de pluralidade.
• Muitas biotecnologias dependem do compartilhamento de informações, e em muitos casos, as pessoas só estão dispostas a compartilhar informações quando têm certeza de que elas serão usadas apenas para aplicações específicas. Isso depende de tecnologias de privacidade (, como provas de conhecimento zero, criptografia homomórfica total, técnicas de ofuscação, etc. ).
• A tecnologia de colaboração pode ser utilizada para coordenar o financiamento de qualquer outro campo tecnológico.

![Vitalik novo artigo: Como o aceleracionismo descentralizado relaciona criptomoedas e IA?](