d/acc: Обзор и перспективы через год

В прошлом году я написал статью о технологическом оптимизме, в которой изложил свой общий энтузиазм по поводу технологий и огромные преимущества, которые они приносят. В то же время я выразил осторожное отношение к некоторым вопросам, в основном сосредоточив внимание на сверхинтеллектуальном искусственном интеллекте и его потенциальных рисках.

Основная идея статьи заключается в пропаганде концепции: децентрализованного, демократичного и дифференцированного защитного ускорения. Мы должны ускорять развитие технологий, но избирательно сосредоточиться на тех технологиях, которые могут повысить защитные способности, а не разрушительные, и стремиться к децентрализации власти, избегая концентрации власти в руках немногих элит.

За прошедший год эти идеи и концепции претерпели значительное развитие и созревание. Я поделился этими мыслями на платформе "80,000 часов", получив множество откликов, большинство из которых было положительными, хотя, конечно, были и некоторые критические голоса.

Эта работа продолжается и достигла значительного прогресса: в области проверяемых открытых вакцин произошел прорыв; понимание ценности здорового внутреннего воздуха углубляется; "сообщественные заметки" продолжают играть активную роль; предсказательные рынки становятся инструментом информации и переживают прорывный год; доказательства с нулевым разглашением применяются в области идентификации личности правительством и в социальных сетях; инструменты открытого изображения находят применение в медицине и в области интерфейсов мозг-машина и так далее.

Прошлой осенью мы провели наше первое важное мероприятие d/acc: "День открытия d/acc"(d/aDDy), на котором собрались спикеры из различных столпов d/acc(: биологии, физики, сетевой безопасности, информационной защиты и нейротехнологий). Мероприятие длилось целый день. Люди, долгое время посвященные этим технологиям, лучше поняли работу друг друга, а внешние участники все больше осознавали эту более широкую цель: ценности, способствующие развитию Ethereum и криптовалют, могут распространяться на более широкий мир.

Содержание и объем d/acc

Основная идея d/acc кратко изложена: децентрализованная, демократическая и дифференцированная защитная акселерация. Создание технологий, способствующих смещению баланса сил в защиту, и при этом не полагающихся на передачу большего количества полномочий центральным властям в процессе реализации. Между этими двумя аспектами существует внутренняя тесная связь: любая децентрализованная, демократическая или свободная политическая структура, как правило, процветает, когда защита легко реализуема, и сталкивается с серьезными вызовами, когда защита оказывается затруднительной.

Понять важность одновременной реализации децентрализации, защиты и ускорения можно, сравнив это с идеей отказа от любого из этих трех аспектов.

Децентрализованное ускорение, но игнорирование части "дифференцированной защиты"

Это похоже на то, чтобы стать эффективным акцелерционистом (e/acc), но при этом стремиться к децентрализации. Многие люди выбирают этот путь, некоторые из них называют себя d/acc, но они с выгодой описывают свой фокус как "агрессивный". Кроме того, есть много других, кто проявляет более умеренный интерес к "децентрализованному искусственному интеллекту" и подобным темам, но, по моему мнению, их внимание к "защитному" аспекту явно недостаточно.

Этот подход может помочь избежать риска тоталитарного правления определённых групп над всем человечеством, но он не решает потенциальные структурные проблемы: в условиях, способствующих агрессии, всегда существует постоянный риск катастрофы, или кто-то может занять позицию защитника и навсегда занять доминирующее положение. Что касается искусственного интеллекта, он также не может должным образом решить риск ослабления власти человечества по сравнению с искусственным интеллектом.

Дифференцированная защита ускоряется, но игнорирует "децентрализацию и демократию"

Принятие централизованного контроля для достижения целей безопасности всегда привлекало определенную часть людей. В последнее время некоторые начинают беспокоиться о том, что крайний централизованный контроль может быть единственным способом справиться с будущими экстремальными технологиями. Однако у централизованного контроля есть свои пределы. Одна из форм относительно мягкого централизованного контроля, которая обычно игнорируется, но все же является вредной, проявляется в сопротивлении общественного контроля в области биотехнологий, а также в отсутствии вызова для таких действий в рамках закрытых стандартов.

Риски такого подхода очевидны, а именно то, что сам центр часто становится источником риска. Мы уже стали свидетелями этого во время пандемии коронавируса, когда функциональные исследования, финансируемые несколькими ведущими мировыми правительствами, могли стать источником пандемии, а централизованная эпистемология привела к тому, что Всемирная организация здравоохранения на протяжении многих лет отказывалась признавать, что коронавирус передается воздушным путем, в то время как обязательное социальное дистанцирование и принудительная вакцинация вызвали политическую реакцию, которая может продолжаться десятилетиями. Похожие ситуации с высокой вероятностью могут снова возникнуть в любых рискованных сценариях, связанных с искусственным интеллектом или другими рискованными технологиями. В этом контексте децентрализованный подход будет более эффективно справляться с рисками, исходящими от самого центра.

Децентрализованная защита, но исключение ускорения

По своей сути, это попытка замедлить технологический прогресс или способствовать экономическому спаду.

Эта стратегия сталкивается с двойными вызовами. Во-первых, в целом технологический и экономический рост крайне полезен для человечества, и любое его замедление может привести к непредсказуемым затратам. Во-вторых, в неавторитарном мире стагнация приводит к нестабильности: те, кто больше всего "жульничает" и может найти, казалось бы, разумные способы продолжать развитие, окажутся в выигрыше. Стратегия замедления может сработать в определенных конкретных ситуациях: например, еда в Европе более здорова, чем еда в США, и это является примером; успехи в предотвращении распространения ядерного оружия также подтверждают это. Однако эти стратегии не могут работать вечно.

С помощью d/acc мы стремимся достичь следующих целей:

• В условиях растущей племенной тенденции в современном мире придерживаться принципов, а не слепо строить различные вещи — наоборот, мы ожидаем создать конкретные вещи, чтобы сделать мир более безопасным и прекрасным.
• Осознание экспоненциального технологического прогресса означает, что мир станет крайне странным, и общий «след» человечества во Вселенной неизбежно будет постоянно увеличиваться. Наша способность защищать уязвимые животные, растения и людей от вреда должна постоянно улучшаться, и единственный путь вперед - это смело идти вперед.
• Создание технологий, которые действительно защищают нас, а не основываются на предположении "добрых людей ( или хорошего ИИ ), контролирующих все". Мы достигаем этой цели, создавая инструменты, которые по своей природе более эффективны для создания и защиты, чем для разрушения.

Другой взгляд на d/acc заключается в возвращении к рамкам движения пиратской партии в Европе в конце 2000-х годов: наделение полномочиями.

Наша цель состоит в том, чтобы построить мир, в котором сохраняется человеческая деятельность, негативная свобода, позволяющая избежать активного вмешательства со стороны других ( людей, будь то обычные граждане, правительства или сверхумные роботы, ) в нашей способности формировать свою собственную судьбу, и позитивная свобода, гарантирующая, что у нас есть знания и ресурсы для этого. Это перекликается с многовековой традицией классического либерализма, которая включает в себя акцент Стюарта Брэнда на «доступе к инструментам» и акцент Джона Стюарта Милля на образовании в сочетании со свободой как ключевыми элементами человеческого прогресса, что, возможно, дополняет видение Бакминстера Фуллера о глобальном процессе решения проблем, который является партисипативным и широко распространенным. Учитывая технологический ландшафт 21-го века, мы можем рассматривать D/ACC как способ достижения тех же целей.

Третье измерение: Синергетическое развитие выживания и процветания

В моей статье прошлого года d/acc особенно сосредоточилась на защитных технологиях: физической защите, биозащите, киберзащите и информационной защите. Однако простая децентрализованная защита недостаточна для построения великого мира: нам также нужно проактивное позитивное видение, которое четко определяет, каких целей может достичь человечество после получения новых децентрализованных решений и безопасности.

Прошлогодняя статья действительно содержала позитивное видение в двух аспектах:

1. Обращая внимание на вызовы суперразума, я выдвинул путь (, который для меня не является оригинальным ), а именно, как мы можем достичь суперразума, не теряя власть:

• В настоящее время строить искусственный интеллект как инструмент, а не как высокоавтономный агент.
• В будущем с использованием инструментов, таких как виртуальная реальность, электромиография и интерфейсы «мозг-машина», будет создана более тесная система обратной связи между искусственным интеллектом и человеком.
• Со временем мы постепенно движемся к конечному результату, а именно к тому, что суперинтеллект является продуктом тесной интеграции машин и человека.

2. Говоря об информационной защите, я также упомянул, что помимо тех защитных социальных технологий, которые направлены на помощь сообществу в поддержании сплоченности и проведении качественных обсуждений перед лицом нападающих, существуют прогрессивные социальные технологии, которые позволяют сообществу легче принимать качественные решения: Pol.is является одним из примеров, аналогично прогнозным рынкам.

Но тогда эти две точки казались disconnected от основной аргументации d/acc: "Здесь есть некоторые идеи о том, как построить более демократичный и защищенный мир на базовом уровне, кстати, здесь есть некоторые не связанные идеи о том, как мы можем реализовать сверхинтеллект".

Однако я считаю, что в реальности существует несколько жизненно важных связей между d/acc технологиями, обозначенными как "защитные" и "прогрессивные". Давайте расширим диаграмму d/acc из статьи прошлого года, добавив эту ось ( и переименовав ее в "Выживание и Процветание" ), чтобы увидеть, какие результаты это даст:

Существует единая модель в различных областях, а именно, что науки, идеи и инструменты, которые могут помочь нам "выжить" в определенной области, тесно связаны с науками, идеями и инструментами, которые могут способствовать нашему "процветанию". Вот несколько конкретных примеров:

• Многие недавние исследования по борьбе с коронавирусом сосредоточены на постоянном присутствии вируса в организме, что рассматривается как ключевой механизм проблемы долгого коронавируса. В последнее время также появились признаки того, что постоянное присутствие вируса может быть патогенным фактором болезни Альцгеймера — если эта точка зрения верна, то решение проблемы постоянного присутствия вируса во всех типах тканей может стать ключом к преодолению проблемы старения.
• Низкозатратные и микроимaging инструменты, такие как те, которые разрабатывает OpenWater, обладают огромным потенциалом для лечения микротромбов, вирусной инфекции, рака и т.д., а также могут быть применены в области интерфейсов «мозг-машина».
• Продвижение создания социальных инструментов, подходящих для высоко противостоящей среды (, таких как общественные заметки ), и социальных инструментов для разумного сотрудничества (, таких как Pol.is ), имеет крайне схожие идеи.
• Прогнозные рынки имеют важное значение как в условиях высокой кооперации, так и в условиях высокой конфронтации.
• Нулевое знание и подобные технологии позволяют проводить вычисления над данными, защищая при этом конфиденциальность, что как увеличивает объем данных, доступных для научных исследований и другой полезной работы, так и усиливает защиту конфиденциальности.
• Солнечная энергия и батареи имеют огромное значение для стимулирования следующей волны чистого экономического роста, а также демонстрируют выдающиеся результаты в области децентрализации и физической устойчивости.

Кроме того, между различными дисциплинами существует важная взаимозависимость:

• Мозг-компьютерный интерфейс является жизненно важной информационной защитной и кооперативной технологией, так как он позволяет более тонкое общение наших мыслей и намерений. Мозг-компьютерный интерфейс - это не просто соединение между роботами и сознанием: он также может быть взаимодействием между сознанием-роботом-сознанием. Это перекликается с ценностью мозг-компьютерного интерфейса в концепции множественности.
• Многие биотехнологии зависят от обмена информацией, и во многих случаях люди готовы делиться информацией только тогда, когда они уверены, что она будет использована только для определенного применения. Это зависит от технологий конфиденциальности (, таких как доказательства с нулевым разглашением, полностью гомоморфное шифрование, технологии обфускации и т.д. ).
• Кооперативные технологии могут быть использованы для координации финансирования в любых других областях технологий.

![Виталик новая статья: Как децентрализованный акселерационизм влияет на криптовалюту и ИИ?](