d/acc: Огляд та прогнози через рік

Минулого року я написав статтю про технічний оптимізм, в якій виклав своє загальне захоплення технологіями та величезними перевагами, які вони приносять. Одночасно я висловив обережне ставлення до деяких проблем, в основному зосередившись на надінтелектуальному штучному інтелекті та його потенційних ризиках.

Основна ідея статті полягає в тому, щоб пропагувати концепцію: децентралізованого, демократичного та диференційованого оборонного прискорення. Ми повинні прискорити розвиток технологій, але вибірково зосередитися на технологіях, які можуть підвищити обороноздатність, а не руйнівність, і прагнути розподілити владу, уникаючи її концентрації в руках невеликої групи еліт.

Протягом року ці ідеї та концепції зазнали значного розвитку та зрілості. Я поділився цими думками на платформі "80,000 годин", отримавши багато відгуків, більшість з яких позитивні, звичайно, були й критичні голоси.

Ця робота продовжується і досягає суттєвого прогресу: у сфері перевіряємої відкритої вакцини відбулися прориви; розуміння цінності здорового внутрішнього повітря постійно поглиблюється; "громадські нотатки" продовжують відігравати позитивну роль; ринок прогнозування як інформаційний інструмент переживає проривний рік; нульові знання знаходять застосування у сфері ідентифікації особи урядом та в соціальних медіа; відкриті інструменти візуалізації застосовуються в медицині та в сфері інтерфейсів мозок-комп'ютер тощо.

Минулої осені ми зустріли першу важливу подію d/acc: "день відкриття d/acc"(d/aDDy), на якій зібралися доповідачі з різних основних областей d/acc( біології, фізики, мереж, інформаційної безпеки та нейротехнологій) і яка тривала цілий день. Люди, які довгий час працюють над цими технологіями, краще розуміють роботу один одного, а зовнішні спостерігачі все більше усвідомлюють це більш масштабне бачення: цінності, що сприяють розвитку Ethereum та криптовалют, можуть бути поширені на більш широкий світ.

Зміст та обсяг d/acc

Основна ідея d/acc стисло: децентралізоване, демократичне та диференційоване оборонне прискорення. Розробка технологій, які можуть сприяти балансуванню атак і оборони на користь останньої, і в процесі реалізації не покладаються на передачу більше влади центральним органам. Між цими двома аспектами існує внутрішня тісна зв'язок: будь-яка децентралізована, демократична або вільна політична структура зазвичай може процвітати, коли оборона легко реалізується, тоді як стикається з серйозними викликами, коли оборона зіштовхується з численними труднощами.

Розуміння важливого значення спроби одночасно реалізувати децентралізацію, захист і прискорення можна досягти, порівнюючи це з концепцією, що виникає внаслідок відмови від будь-якого з цих трьох аспектів.

Децентралізація прискорюється, але ігнорує частину "диференційованої оборони"

Це схоже на те, щоб стати ефективним прискорювачем ( e/acc ), але при цьому прагнути до децентралізації. Є багато людей, які обирають цей шлях, деякі з них самі себе називають d/acc, але вони корисно описують свій акцент як "агресивний". Крім того, є багато інших, які виявляють більш помірний ентузіазм щодо "децентралізованого штучного інтелекту" та подібних тем, але, на мою думку, їхня увага до аспектів "оборонної" сфери явно недостатня.

Цей підхід, можливо, зможе уникнути ризику диктатури певних груп над глобальним людством, але він не вирішує потенційні структурні проблеми: у середовищі, що сприяє агресії, завжди існує постійний ризик катастрофи, або хтось може позиціонувати себе як захисник і назавжди зайняти домінуюче положення. Щодо штучного інтелекту, він також не може належно вирішити ризик ослаблення влади людства в порівнянні зі штучним інтелектом.

Диференційована оборона прискорюється, але ігнорує "децентралізацію та демократію"

Щоб досягти безпечних цілей, прийняття централізованого контролю завжди має певну привабливість для частини людей. Нещодавно деякі люди висловили занепокоєння, що екстремальний централізований контроль може бути єдиним шляхом для реагування на екстремальні технології в майбутньому. Однак централізований контроль має проблеми з мірою. Один з видів контролю, який зазвичай ігнорується, але все ще є шкідливим, проявляється в біотехнологічній сфері через опір громадського нагляду, а також у дозволі на те, щоб ця опозиція залишалася без виклику в закритих нормах.

Цей спосіб має очевидні ризики, а саме те, що сам центр часто стає джерелом ризику. Ми вже стали свідками цього під час пандемії COVID-19, коли функціональні дослідження, які фінансувалися кількома основними світовими урядами, могли бути джерелом пандемії; централізована епістемологія призвела до того, що Всесвітня організація охорони здоров'я роками відмовлялася визнавати, що коронавірус передається повітрям, а примусова соціальна дистанція та обов'язкова вакцинація призвели до можливого політичного відгуку, який може тривати десятиліттями. Подібні ситуації, ймовірно, знову виникнуть у будь-якому ризиковому контексті, пов'язаному з штучним інтелектом або іншими ризиковими технологіями. У порівнянні з цим, децентралізований підхід ефективніше впорається з ризиками, що походять від самого центру.

Децентралізована оборона, але відторгнення прискорення

В принципі, це намагається уповільнити технологічний прогрес або сприяти економічному спаду.

Ця стратегія стикається з подвійними викликами. По-перше, загалом, технологічний та економічний ріст є надзвичайно корисними для людства, будь-яка затримка в цьому призведе до непередбачуваних витрат. По-друге, у світі, що не є авторитарним, стагнація є нестабільною: ті, хто «обманює» найбільше, здатні знайти на вигляд розумні способи продовжувати розвиток, отримають перевагу. Стратегія уповільнення може в певних специфічних умовах спрацювати в певній мірі: наприклад, європейська їжа є більш здоровою, ніж американська, це є прикладом; успіхи в ядерному нерозповсюдженні до цього часу також це підтверджують. Проте ці стратегії не можуть діяти вічно.

За допомогою d/acc ми прагнемо досягти таких цілей:

• Дотримуватись принципів у світі, що все більше стає племінним, а не просто сліпо будувати різні речі - навпаки, ми сподіваємось створити конкретні речі, щоб світ став безпечнішим і кращим.
• Усвідомлення експоненційного технологічного прогресу означає, що світ стане надзвичайно дивним, і загальний "слід" людства у всесвіті неминуче буде постійно зростати. Наша здатність захищати вразливі тварини, рослини та громади від шкоди повинна безперервно покращуватись, а єдиний шлях вперед - це йти вперед.
• Побудова технологій, які дійсно захищають нас, а не спираються на припущення, що "добрі люди ( або хороший штучний інтелект ) контролюють усе". Ми досягаємо цієї мети, створюючи інструменти, які природно є більш ефективними при побудові та захисті, ніж при руйнуванні.

Інша перспектива на d/acc полягає в поверненні до рамок руху піратської партії в Європі наприкінці 2000-х років: наділення повноваженнями.

Наша мета полягає в створенні світу, який зможе зберегти людську активність, реалізуючи негативну свободу, тобто уникнення активного втручання інших, таких як звичайні громадяни, уряди чи суперінтелектуальні роботи, у нашу здатність формувати власну долю, одночасно забезпечуючи позитивну свободу, тобто гарантію того, що ми маємо знання та ресурси для реалізації цієї здатності. Це відгукується на традицію класичного лібералізму, яка триває вже кілька століть, до якої входять увага Стюарта Брандта до "отримання інструментів" та наголос Джона Стюарта Мілля на освіті та свободі як ключових елементах людського прогресу — можливо, варто також додати бачення Бакмінстера Фуллера про те, що процес глобального вирішення проблем є участю та широко розподіленим. Враховуючи технологічну картину XXI століття, ми можемо розглядати d/acc як спосіб досягнення цих самих цілей.

Третій вимір: співпраця в розвитку виживання та процвітання

У моїй статті минулого року d/acc особливо зосередився на оборонних технологіях: фізичній обороні, біологічній обороні, кіберобороні та інформаційній обороні. Проте, простого децентралізованого захисту недостатньо для побудови великого світу: нам також потрібне прогресивне позитивне бачення, яке чітко окреслює, яких цілей може досягти людство після отримання нової децентралізації та безпеки.

Стаття минулого року дійсно містила позитивне бачення в двох аспектах:

1. Під час обговорення викликів надінтелекту я запропонував шлях (, який для мене не є оригінальним ), а саме, як ми можемо досягти надінтелекту, не втрачаючи влади:

• Наразі, створення штучного інтелекту як інструменту, а не високоефективного автономного агента.
• У майбутньому, використовуючи віртуальну реальність, електроміографічні технології та інтерфейси мозок-комп'ютер, встановити більш тісний зворотний зв'язок між штучним інтелектом та людиною.
• З плином часу поступово наближаючись до остаточного результату, а саме, що суперінтелект є продуктом тісної інтеграції машин і людей.

2. Коли мова йде про інформаційну оборону, я також згадував, що, крім тих захисних соціальних технологій, які мають на меті допомогти спільноті зберігати згуртованість і вести якісні обговорення під час атак, існують також прогресивні соціальні технології, які можуть допомогти спільноті легше робити якісні судження: Pol.is є прикладом, так само як і ринок прогнозів.

Але в той час ці два моменти здавалися неузгодженими з основною тезою d/acc: "Ось кілька ідей про те, як на базовому рівні побудувати більш демократичний і більш сприятливий для захисту світ, до речі, тут також є деякі не пов'язані ідеї про те, як ми можемо досягти суперінтелекту".

Однак я вважаю, що в реальності існує деякий важливий зв'язок між зазначеними вище технологіями d/acc, які помічені як "оборонні" та "прогресивні". Давайте розширимо діаграму d/acc з минулорічної статті, додавши цю вісь ( і одночасно переназвавши її "виживання та процвітання" ), щоб подивитися, які результати це принесе:

У різних сферах існує єдиний шаблон, а саме: ті науки, думки та інструменти, які можуть допомогти нам "вижити" в певній сфері, тісно пов'язані з науками, думками та інструментами, які можуть сприяти нашому "процвітанню". Ось кілька конкретних прикладів:

• Багато недавніх досліджень щодо боротьби з COVID-19 зосереджено на тривалій присутності вірусу в організмі, що вважається ключовим механізмом проблеми тривалого COVID. Нещодавно також з'явилися ознаки того, що тривала присутність вірусу може бути етіологічним фактором хвороби Альцгеймера — якщо ця точка зору підтвердиться, то вирішення проблеми тривалої присутності вірусу в усіх типах тканин, можливо, стане ключем до подолання проблеми старіння.
• Низькозатратні та мікроіміджеві інструменти, такі як ті, що розробляються OpenWater, мають великий потенціал у лікуванні мікротромбів, тривалої присутності вірусів, раку та можуть бути застосовані в галузі мозкових інтерфейсів.
• Сприяння створенню соціальних інструментів, що підходять для висококонфліктних середовищ (, таких як громадські нотатки ), та соціальних інструментів для раціонального співробітництва (, таких як Pol.is ), за своєю суттю є дуже схожими.
• Прогнозні ринки мають важливу цінність як у середовищі високої співпраці, так і високої протидії.
• Нульові докази та подібні технології забезпечують обробку даних при захисті конфіденційності, що як збільшує обсяг даних, які можуть бути використані для наукових досліджень та інших корисних робіт, так і підсилює захист конфіденційності.
• Сонячна енергія та акумулятори мають величезне значення для сприяння наступній хвилі зростання чистої економіки, а також демонструють відмінні показники у децентралізації та фізичній стійкості.

Окрім цього, між різними науковими дисциплінами існує важлива взаємозалежність:

• Інтерфейс мозок-машина є критично важливим інструментом для інформаційної оборони та співпраці, оскільки він дозволяє більш тонке спілкування наших думок і намірів. Інтерфейс мозок-машина - це не лише зв'язок між роботами та свідомістю: він також може бути взаємодією між свідомістю-роботом-свідомістю. Це відображає цінність інтерфейсу мозок-машина в концепції різноманітності.
• Багато біотехнологій залежать від обміну інформацією, а в багатьох випадках люди готові ділитися інформацією лише тоді, коли впевнені, що вона буде використана тільки для конкретного застосування. Це залежить від технологій конфіденційності (, таких як нульові знання, гомоморфне шифрування, технології обфускації тощо ).
• Технології співпраці можуть бути використані для координації фінансування в будь-якій іншій технологічній сфері.

![Vitalik нова стаття: як децентралізований акселераціонізм поєднує криптовалюту та ШІ?](