d/acc: огляд і роздуми через рік

Автор: Віталік Бутерін

Минулого року я написав статтю про технологічний оптимізм, в якій виклав свій загальний ентузіазм щодо технологій та величезних переваг, які вони можуть принести, водночас висловлюючи обережне ставлення до деяких конкретних проблем, зокрема до суперінтелектуального ШІ та можливих катастрофічних ризиків, які він може спричинити.

Основна ідея статті полягає в пропаганді концепції: децентралізованого, демократичного та диференційованого оборонного прискорення. Ми повинні прискорити розвиток технологій, але вибірково зосереджуватися на тих технологіях, які можуть підвищити обороноздатність, а не руйнівну силу, і прагнути до розподілу влади, а не до концентрації її в руках небагатьох еліт. Оборонна модель повинна бути схожа на демократичну Швейцарію та історичні практично анархічні регіони, а не на середньовічну феодальну систему з її лордами та замками.

Протягом минулого року ці ідеї значно розвинулися та вдосконалилися. Я поділився цими ідеями на платформі "80,000 годин", отримав багато відгуків, більшість із яких були позитивними, звичайно, також були й деякі критичні.

Ця робота продовжує просуватися і досягати суттєвих результатів: досягнуто прогресу в сфері перевіряємих відкритих вакцин; зростає усвідомлення цінності здорового внутрішнього повітря; "громадські нотатки" продовжують відігравати позитивну роль; прогнозні ринки отримали проривний рік як інформаційний інструмент; нульові знання отримали застосування в урядовій ідентифікації та в соціальних мережах ( і забезпечили безпеку гаманців Ethereum через абстракцію облікових записів ); відкриті інструменти візуалізації отримали застосування в медицині та в сфері мозкових інтерфейсів, тощо.

Минулої осені ми провели нашу першу важливу подію d/acc: "День відкриття d/acc"(d/aDDy), яка об'єднала спікерів з різних основних областей d/acc(, таких як біологія, фізика, мережі, інформаційна безпека та нейротехнології). Захід тривав цілий день. Люди, які довгий час займалися цими технологіями, почали більше дізнаватися про роботи один одного, а зовнішні особи також все більше усвідомлюють це більш грандіозне бачення: цінності, що підтримують розвиток Ethereum та криптовалют, можуть бути розширені на більш широкий світ.

Значення та межі d/acc

Час настав 2042 рік. Ви в медіа побачили новину, що у вашому місті може спалахнути нова епідемія. На такі новини ви вже звикли: люди зазвичай надмірно реагують на кожну зміну в хворобах тварин, а в більшості випадків ці зміни врешті-решт не викликають реальної кризи. Дві попередні потенційні епідемії були виявлені на ранніх стадіях завдяки моніторингу стічних вод і аналізу відкритих даних у соціальних мережах, і були успішно стримані. Однак цього разу ситуація інша, ринки прогнозів показують, що ймовірність появи принаймні 10,000 випадків становить 60%, що вас турбує.

Вчора був визначений геном цього вірусу. Ваше програмне забезпечення для тестування повітря в кишені було оновлено, і тепер воно може виявляти новий вірус ( за допомогою тестування на дихання або після 15 хвилин впливу в кімнаті ). Тим часом, очікується, що відкриті інструкції та код для створення вакцини, які можуть бути отримані за допомогою будь-якого сучасного медичного обладнання, будуть опубліковані протягом кількох тижнів. Більшість людей наразі не вжили жодних заходів, покладаючись переважно на широко використовувані заходи фільтрації повітря та вентиляції для забезпечення власної безпеки.

Оскільки у вас є проблеми з імунітетом, ви повинні бути більш обережними: ваш відкритий локальний персональний AI-асистент, крім виконання звичайних завдань, таких як навігація, рекомендації ресторанів і заходів, також буде враховувати дані про якість повітря в реальному часі та дані про вуглекислий газ, рекомендувати вам лише найбезпечніші місця. Ці дані надаються тисячами учасників та пристроїв, завдяки технологіям нульових знань і диференційної конфіденційності, які максимально знижують ризик витоку або зловживання даними.

Два місяці потому, епідемія дивом зникла: здається, 60% людей дотримувалися основних протиепідемічних протоколів, а саме носили маски, коли прилад для перевірки повітря сповіщав про наявність вірусу, і ізолювалися вдома, якщо результати тесту були позитивними. Ця міра була достатньою, щоб подальше знизити рівень передачі, який вже значно зменшився завдяки пасивному потужному очищенню повітря, до менше ніж 1. Моделювання показало, що хвороба, яка може бути в п'ять разів серйознішою за COVID-19, що спостерігався двадцять років тому, наразі не спричинила серйозних наслідків.

Подія d/acc, організована Devcon, досягла надзвичайно позитивного результату, а саме концепція d/acc успішно об'єднала людей з різних сфер і дійсно викликала в них сильний інтерес до роботи один одного.

Провести захід з "різноманіттям" не є важкою справою, але дійсно налагодити тісні зв'язки між людьми з різними фоновими даними та інтересами є надзвичайно складно. Я досі пам'ятаю, як у середній та старшій школі мене змушували дивитися нудні опери, які на той момент, на мою думку, були нудними та нецікавими. Я добре усвідомлював, що "повинен" їх цінувати, адже якщо ні, то мене б вважали безкультурним лінивим комп'ютерником, але я не зміг на більш глибокому рівні відчути зміст опер. Проте атмосфера заходу d/acc була абсолютно іншою: здавалося, люди щиро люблять дізнаватися про різноманітну роботу в різних сферах.

Якщо ми прагнемо побудувати світле майбутнє, яке перевершує панування, сповільнення та знищення, ми обов'язково повинні зайнятися такою широкою побудовою альянсів. d/acc у цьому напрямку, здається, досягла значних успіхів, і цього вже достатньо, щоб підкреслити цінність цієї ідеї.

Основна ідея d/acc проста і зрозуміла: децентралізоване, демократичне та диференційоване оборонне прискорення. Створення технологій, які можуть сприяти зміщенню балансу між атакою та захистом на користь останнього, і при цьому не покладатися на передачу більшої влади центральним авторитетам в процесі реалізації. Між цими двома аспектами існує внутрішня тісна зв'язок: будь-яка децентралізована, демократична чи вільна політична структура зазвичай процвітає, коли захист легко реалізувати, і стикається з серйозними викликами, коли захист стикається з численними труднощами — в таких випадках результатом, як правило, є період хаосу, коли всі протистоять один одному, і врешті-решт досягається стан балансу, в якому домінує найсильніший.

Спосіб зрозуміти важливість одночасної реалізації децентралізації, оборонності та прискореності полягає в порівнянні їх з ідеєю відмови від будь-якого з цих трьох аспектів.

Децентралізація прискорюється, але ігнорує частину "диференційованої оборони"

По суті, це схоже на те, щоб стати ефективним акселераціоністом ( e/acc ), але водночас прагнути децентралізації. Є багато людей, які обирають цей шлях, деякі з них самі себе називають d/acc, але вони корисно описують свої акценти як "наступальні". Крім того, є багато інших, які проявляють більш помірний інтерес до "децентралізованого ШІ" та подібних тем, але, на мій погляд, їхня увага до аспекту "оборони" очевидно недостатня.

На мою думку, цей підхід, можливо, допоможе уникнути ризику диктатури певних груп над усім людством, але він не вирішує потенційні структурні проблеми: в середовищі, що сприяє агресії, завжди існує постійний ризик катастрофи, або хтось може позиціонувати себе як захисник і назавжди зайняти панівну позицію. Що стосується ШІ, він також не може належним чином вирішити ризик зменшення влади людства в порівнянні з ШІ.

Диференційована оборона прискорюється, але ігнорує "децентралізацію та демократію"

Для досягнення цілей безпеки прийняття централізованого контролю завжди має певну привабливість для частини людей, читачі безсумнівно вже знайомі з багатьма такими прикладами та пов'язаними з ними недоліками. Нещодавно деякі люди висловлювали занепокоєння, що екстремальний централізований контроль може бути єдиним способом реагування на майбутні екстремальні технології: наприклад, уявіть собі таку гіпотетичну ситуацію: "кожен носить 'мітку свободи' — це наступний продукт, схожий на більш обмежені носимі моніторингові пристрої сьогодні, подібні до браслетів на щиколотці, що використовуються в кількох країнах як альтернатива в'язниці ... зашифроване відео та аудіо постійно завантажуються і в реальному часі інтерпретуються машинами". Однак централізований контроль має свої обмеження. Одна форма відносно помірного централізованого контролю, яку зазвичай ігнорують, але яка все ще є шкідливою, проявляється в галузі біотехнологій (, наприклад, у випадках опору громадському контролю щодо їжі, вакцин ) та дозволу на невиклик таких дій закритими нормами.

Цей спосіб має очевидні ризики, а саме те, що сам центр часто стає джерелом ризику. Ми вже стали свідками цього під час пандемії COVID-19, коли функціональні дослідження, фінансовані кількома основними світовими урядами, могли стати причиною пандемії. Централізована епістемологія призвела до багаторічного відмови Всесвітньої організації охорони здоров'я визнати, що COVID-19 передається повітрям, а обов'язкова соціальна дистанція та обов'язкова вакцинація викликали можливий політичний відкат, що може тривати десятиліттями. Подібні ситуації дуже ймовірно можуть повторитися в будь-якому ризиковому контексті, пов'язаному з AI або іншими ризиковими технологіями. У порівнянні з цим, децентралізований підхід ефективніше впорається з ризиками, що походять від самого центру.

Децентралізоване захист, але відкидає прискорення

По суті, це спроба уповільнити технологічний прогрес або спонукати до економічного спаду.

Ця стратегія стикається з подвійними викликами. По-перше, в цілому технологічний та економічний ріст є надзвичайно корисним для людства, і будь-яка затримка в цьому призведе до непомірних витрат. По-друге, у світі, який не є авторитарним, стагнація є нестабільною: ті, хто найбільше "обманює", здатні знайти, здавалося б, розумні способи продовжити розвиток, отримають перевагу. Стратегії уповільнення можуть працювати в певних специфічних ситуаціях: наприклад, європейська їжа є більш здоровою, ніж американська, це є прикладом; успіхи в нерозповсюдженні ядерної зброї на сьогоднішній день також підтверджують це. Проте ці стратегії не можуть працювати вічно.

За допомогою d/acc ми прагнемо досягти наступних цілей:

• У сучасному світі, що дедалі більше стає племінним, дотримуватися принципів, а не просто сліпо будувати різні речі — навпаки, ми сподіваємося створити конкретні речі, щоб зробити світ більш безпечним і красивим.
• Усвідомлення експоненціального технологічного прогресу означає, що світ стане надзвичайно дивним, і загальний "слід" людства у Всесвіті неминуче буде постійно зростати. Наша здатність захищати вразливі тварини, рослини та громади від шкоди повинна безперервно зростати, а єдиний шлях вперед - це йти вперед.
• Створити технології, які насправді захищають нас, а не ґрунтуються на припущенні "добрих людей ( або доброго ШІ ), які контролюють усе". Ми досягаємо цієї мети, створюючи інструменти, які природно є більш ефективними для створення та захисту, ніж для руйнування.

Розгляд d/acc з іншого боку можна повернутися до рамок руху піратської партії в Європі наприкінці 2000-х років: надання повноважень.

Наша мета полягає в створенні світу, який зможе зберегти людську активність, реалізуючи негативну свободу, тобто уникати активного втручання інших (, будь то звичайні громадяни, уряди чи надінтелектуальні роботи ) у нашу здатність формувати власну долю, водночас реалізуючи позитивну свободу, тобто забезпечуючи, щоб ми мали знання та ресурси для втілення цієї можливості. Це відгукується на традицію класичного лібералізму, що триває вже кілька століть, яка охоплює увагу Стюарта Брандта до "отримання інструментів" та акцент Джона Стюарта Мілля на освіті та свободі як ключових елементах прогресу людства — можливо, також варто додати бачення Бакмінстера Фуллера про те, що процес вирішення глобальних проблем має бути участю та широко розподілений. У світлі технологічного ландшафту XXI століття ми можемо розглядати d/acc як спосіб досягнення цих самих цілей.

Третій вимір: Синергія виживання та процвітання

У моїй статті минулого року d/acc особливо зосередилася на захисних технологіях: фізичній обороні, біозахисті, кіберзахисті та інформаційній безпеці. Проте, просто децентралізована оборона недостатня для побудови великого світу: нам також потрібен проактивний позитивний бачення, яке чітко окреслює, що людство зможе досягти після отримання нової децентралізації та безпеки.