Матрешки зла 

Часть 1: Откушенное ухо

Дональд Трамп любил повторять крылатую фразу выдающегося боксера-уголовника Майка Тайсона: «У каждого есть какой-то план, но только до тех пор, пока он не словит в репу» (Everybody has a plan until they get punched in the mouth).

Мем Тайсона, если провести историческую параллель, — современная метафора меча, который предводитель кельтских банд Бренн положил в 388 г. до н. э. на весы при обсуждении контрибуции, наложенной на побежденный Рим. Римляне тогда возмутились так нагло утяжеленными гирями варваров и получили в ответ крылатое «Vae victis!», горе побежденным.

Есть, однако, разница между Бренном и Тайсоном, связанная с мельчанием эпох. Бренн сначала сокрушил Рим в кровопролитном сражении, а потом наглел с гирями и мечами, а вот Тайсон запугивал Эвандера Холифилда перед поединком. Поединков, как мы помним, вышло два: первый закончился нокаутом Тайсона, а во втором Тайсон откусил кусок уха Холифилду, после чего каламбуриста дисквалифицировали.

Всё, что написано выше, — не более чем сублимация современных страхов человечества. Высмеивая тайсонов, очевидно не дотягивающих до бреннов, мы успокаиваем себя тем, что горы всего лишь порождают мышь. К сожалению, это не так.

Нам посчастливилось (или «посчастливилось» — зависит от оптики и жизненных обстоятельств читателя) жить в эпоху сокрушительного излома истории человечества. Под изломом я понимаю такую точку невозврата, которая приведет либо к абсолютному и всеобщему рабству, либо к доселе неслыханной новой форме организации общества. Ни один из исходов предсказать пока невозможно, хотя очевидно, что вернуться к привычному статус-кво прошлого уже не получится.

К сожалению, мы, представители западной европейской цивилизации, не можем ощутить этот наступающий излом во всей его неизбежности, поскольку основные формы его проявления сейчас заслонены невыносимым трагизмом войны в Украине. Война эта настолько чудовищна, невозможна и абсурдна, что закрывает собой все горизонты и превращает в святотатство всякую попытку заглянуть по ту сторону ее ужасов.

Психологически такая позиция более чем оправдана: реальность, внутри которой находится человек, всегда заслоняет собой всё, что расположено где-то в другом месте и напрямую нас не касается. Мы видим ужасы и страдания этой войны, и нам кажется, что «нападение России на Украину нарушило мирный статус-кво, которым мы наслаждались более 70 лет».

Приведу лишь два списка по памяти.

После 1945 года СССР / Россия: спровоцировали Корейскую войну, танками задавили восстание в Венгрии, включились в прокси-войну с США во Вьетнаме, уничтожили «Пражскую весну», организовали прокси-интервенцию (через Кубу) в Анголе, развязали войну в Афганистане, спровоцировали череду внутренних гражданских войн в Грузии, Приднестровье, Таджикистане, Абхазии и Дагестане, провели две войны в Чечне, напали на Грузию, аннексировали Крым, провели прокси-войну на Донбассе, провели военную операцию в Сирии, поучаствовали в гражданской войне в ЦАР, напали на Украину.

За тот же период США: провели прокси-войну в Корее, организовали госпереворот в Гватемале, провели интервенцию в Ливане, приняли участие в гражданской войне в Лаосе, отметились на Кубе в «операции в заливе Свиней». Дальше — скороговоркой: Вьетнам, Доминиканская республика, Камбоджа, Сальвадор, Иран, Ливан, Гренада, снова Ливия, Панама, война в Персидском заливе, Босния и Герцеговина, Гаити, Югославия, Албания, опять же Украина.

Если и теперь кому-то покажется, что именно в 2022-м было нарушено 77 лет мирного статус-кво, то дальше можно не читать.

Выскажу крамольную мысль, что никакого мирного статус-кво никогда не существовало. Ни в Европе, ни за ее пределами. Не было мирного статус-кво ни в последние 77 лет, ни в последние 50 веков истории, зафиксированной в памяти человечества.

Война — это омерзительный modus vivendi примата homo sapiens. Максимум, на что можно было претендовать, так это на некое «смягчение нравов и убавление кровожадности», доказательству которого Стивен Пинкер посвятил 800 страниц своей монографии (The Better Angels of Our Nature: Why Violence Has Declined). Однако, читая документированные отчеты о военных преступлениях в Украине, начинаешь сильно сомневаться даже в этих скромных выводах Пинкера.

Приведенные выше списки военных действий (за рамками перечисления остались и геноцид в Индонезии, и красные кхмеры, и гекатомбы людоедских режимов в Африке) — это ни в коем случае не способ увести разговор в сторону от трагедии войны в Украине, а попытка рассмотреть вектор, ведущий к потрясениям, на фоне которых померкнет всё, ранее пережитое человечеством.

Что же мы можем рассмотреть сегодня по ту сторону украинской трагедии?

Если подняться на уровень выше, нам откроется картина: 11 сентября 2001 в мире был запущен странный процесс, который поначалу зарядил парочку локальных войн (Ирак, Афганистан), затем отлился в Patriot’s Act — закон, обнуливший краеугольные завоевания Конституции США, а под конец вызвал цунами законодательного эпигонства. Аналоги Patriot’s Act были приняты в более чем в 100 странах мира (Россия, Германия, Канада, Австралия, Таиланд, Эфиопия, Вануату и т. п.)

Во всех этих законах сформулированы определения «терроризма» и «террориста», которому государственные власти объявили беспощадную войну. Кровожадность каждой войны определяется мерой испорченности конкретного государства. Одни штрафуют, другие пытают, третьи дают тюремные сроки, четвертые убивают — но суть едина и неизменна: 

Если в 70-е гг. XX в. для того, чтобы стать «врагом общества и государства», нужно было состоять в «Красных бригадах», устраивать взрывы на стадионах и похищать политиков, то в эпоху после 9/11 достаточно, чтобы государство объявило тебя «террористом». При этом ничего взрывать и никого похищать не нужно, достаточно неправильно мыслить. Думать, тем более говорить так, как родное государство не одобряет. Такое неодобрение автоматически превращает тебя в «террориста» с поражением во всех правах.

При этом у каждого «родного государства» собственный набор признаков, подпадающих под определение «террориста» и «терроризма»: в Иране — один, в Индии — другой, в Китае — третий, в РФ — четвертый, в США — пятый, в ЕС — шестой.

Разумеется, будет безнравственно под предлогом генетической общности (9/11) грести все локальные жупелы «терроризма» под одну гребенку. Дико сравнивать реальный тюремный срок, который дают в РФ за «терроризм», выражающийся в отказе поддерживать преступную войну, с практикой социального «кансэлинга», с которым в США сегодня сталкиваются «террористы», неодобрительно высказывающиеся о движении BLM или полигендерной революции.

Тем не менее, без понимания смысловой общности процессов, определяющих универсальный вектор развития нашего мира, мы не сможем выйти на понимание сути исторического слома, который эти процессы неумолимо приближают.

Промежуточный итог состоит в том, что мы имеем дело с виртуализацией государственного насилия над гражданами. 

Архаичность подобной трансформации не может ускользнуть от внимания. На заре человечества мифологизм мышления как раз и проявлялся в представлении о том, что назвать — уже означало понять и победить. Если ты знаешь имя бога, ты уже понимаешь бога. Если знаешь имя врага, ты уже побеждаешь врага.

Джордж Оруэлл первым в современной культуре указал на смертельную опасность, которую несут игры государства со словами. 

Jeux de mots поистине творят чудеса: не нужно оправдываться и объяснять обществу собственные неприглядные качества, достаточно просто назвать черное белым, рабство — свободой, войну — миром (или стремлением к миру), и тогда твои неприглядные качества легко переносятся на врага. Не нужно ничего менять по существу, достаточно налепить на лоб оппонента ярлык и сразу переходить к «оправданным» действиям. Ты — фашист и террорист, поэтому начинаю тебя мочить. Как это я фашист?! А вот так — и в следующий миг тебе уже откусывают ухо.

Но игры со словами не являются кульминацией процессов, предопределяющих неизбежность исторического слома, как может показаться. В определенном смысле это так, но есть ощущение, что жупел «терроризма» — это всё-таки частное проявление чего-то более общего. Чего?

По ходу дела важно заметить, что новый мировой порядок как оригинальное и самостоятельное явление существует лишь в воспаленных мозгах, съехавших на интернетовской конспирологии. Речь идет всего лишь об эволюции идеи властного контроля, которая реализуется в человеческом обществе с первых дней его существования.

Исторически высшая форма властного контроля — государство, которое начиналось как навязывание обществу воли самого могущественного родового клана (монархия), а завершилось добровольным делегированием власти элитам в самом широком смысле слова (демократия).

При любом раскладе в контексте государства мы можем говорить только о распределении полномочий между элитами. Полноценного равенства, при котором каждый индивид был наделен равными властными и имущественными правами, никогда и нигде в реальной истории человечества не существовало (зато с избытком компенсировалось в фантазийном наследии философов и литераторов).

Процесс, гарантирующий нам исторический слом невиданного масштаба, называется сменой парадигмы властного контроля в обществе. Этот процесс заключается в том, что государство как институт стремительно утрачивает сегодня не только моральные права (это случилось уже давно), но и саму техническую возможность осуществлять эффективный контроль над обществом в целом и каждым индивидом в частности.

Именно эта катастрофа государства и является первопричиной всей череды планетарных потрясений, которые мы наблюдаем последние десятилетия. А именно: непонятные игры со словами, непонятные игры с генетическими исследованиями, непонятные игры с искусственным интеллектом, непонятные игры с финансовыми отношениями.

Единый вектор событий, обуславливающий утрату государством властного контроля, называется одним словом — децентрализация. Причем речь идет не о децентрализации как абстрактной идее (в таком виде она существовала в мечтаниях греческих философов еще две тысячи лет назад), а о децентрализации как совокупности объективно существующих технологий, которые делают триумф неизбежным.

Рискну предположить, что вся совокупность трагических процессов, наблюдаемых нами в XXI в. — циничные подмены смыслов и понятий, варварские войны, повсеместные атаки на фундаментальные гражданские права и свободы общества, финансовые эксперименты с эластичной эмиссией, — всё это в той или иной мере осознанные или подсознательные реакции государства, переживающего страх от неизбежно надвигающегося краха его монополии на власть и контроль над обществом.

Если бы угроза властной монополии государства исходила из субъекта любой природы — будь то индивид или даже целая армия, — государство просто раздавило бы смуту как комара по примеру всей своей прошлой истории.

Трагедия (для государства) в том, что угроза властной монополии исходит от того, что невозможно выделить в субъект или как-то иначе локализовать, — от технологии. Более того, речь идет о технологии в самой абстрактной и удобной для массовой репликации форме — компьютерном коде.

Такая технология неудержимо развивается быстрее любой пандемии. Существует только два способа задержать распространение враждебной для государства технологии: на уровне психологии человека либо на уровне самой технологии.

В первом случае государство прилагает титанические усилия, направленные на максимально широкую дискредитацию в обществе любых технологий, реализующих идею децентрализации социальных отношений. Во втором случае государство пытается противопоставить враждебной технологии децентрализации технологию удержания общества под своим контролем.

Технологии децентрализации представлены сегодня беспрецедентно широким спектром: от обеспечения автономного социального бытия индивида до системы финансовых отношений, выведенных из-под контроля как государства, так и регулируемых им частных структур (банки, биржи, паевые фонды и т. п.)

Приведу лишь два примера. Самая яркая сегодня технология децентрализации социальных аспектов бытия воплощена в концепции Network State, предложенной Баладжи Шринивасаном (Balaji S. Srinivasan). Финансовую независимость от государства обеспечивает стремительно развивающаяся экосистема DeFi (децентрализованных финансов).

Очень надеюсь, что у меня будет возможность рассказать об этих головокружительных технологиях, однако начать разговор мне бы хотелось со второго инструмента, с помощью которого государство пытается решить проблему властного контроля.

Начинать с технологий централизации следует еще и потому, что сегодня они ассоциируются с самым горячим сюжетом, будоражащим СМИ планеты, — с AI, искусственным интеллектом.

Часть 2: Страсти AI

Поводом для разговора об искусственном интеллекте (Artificial Intelligence, AI) в контексте борьбы государства за властный контроль над обществом, стало открытое письмо, опубликованное организацией Future of Life Institute 22 марта 2023. Письмо озаглавлено «Поставьте на паузу гигантские эксперименты с искусственным интеллектом» (Pause Giant AI Experiments: An Open Letter).

Всего за одну неделю письмо собрало более 50 тысяч подписей: от самых именитых китайских и американских предпринимателей и университетских светил до Илона Маска и Стива Возняка.

Мировой резонанс от письма вышел знатный и даже вызвал парочку совсем тревожных сигналов: лоббистский Центр по AI и Цифровой политике (Center for Artificial Intelligence and Digital Policy) напрямую обратился к Федеральной комиссии США по торговле (U.S. Federal Trade Commission) с требованием запретить компании OpenAI выпуск новых коммерческих релизов своего популярного движка GPT-4.

Буквально в тот же день ЮНЕСКО обратился к правительствам всех стран с призывом как можно скорее поддержать инициативу со временной остановкой исследовательских работ по развитию мощных систем искусственного интеллекта.

Письмо произвело мировой переполох тем более неожиданно, поскольку Future of Life Institute — маргинальная организация, которая раньше не пользовалась особой популярностью.

Future of Life Institute, FLI (Институт жизни будущего) был учрежден 9 лет назад Яаном Таллинном (Jaan Tallinn), одним из создателей Skype, Максом Тегмарком (Max Tegmark), профессором Массачусетского технологического института (MIT), и Викторией Краковна (Viktoriya Krakovna), научной исследовательницей AI из британского флагмана отрасли DeepMind.

FLI — некоммерческая организация, которая последовательно и бескомпромиссно продвигает одну-единственную (зато очень привлекательную!) идею — проживание в мире. Концепт мира для FLI синонимичен нравственному императиву и носит абсолютный характер в духе фантазий теоретического христианства о «непротивлении злу насилием».

Главную угрозу мирному проживанию FLI находит на самых передовых рубежах современной науки — в искусственном интеллекте и биотехнологиях, а также в разработках ядерного оружия и борьбе с всемирным потеплением.

FLI ранее опубликовала уже пять открытых писем:

Высшее достижение FLI по вопросам AI — 34 тысячи подписей, собранных под письмом 2016 года. Остальные обращения набирали от 256 до 11251 подписей.

Как видите, озвученные цифры — это параметры абсолютно маргинальной общественной активности. И вдруг такой невероятный успех: 50 тысяч подписей за одну неделю, Илон Маск и резонанс на уровне ЮНЕСКО. Что же так изменилось в призывах FLI к мировой общественности?

В своих прошлых обращениях FLI выражала беспокойство феноменом искусственного интеллекта как такового и потенциальными возможностями его применения в военной отрасли и медицине. И это понятно: никаких действующих моделей практической значимой реализации AI не существовало ни в 2015-м, ни в 2017-м.

Теоретическую документацию по своему первому генерирующему предварительно обученному трансформеру (Generative Pre-trained Transformer, GPT) компания OpenAI опубликовала лишь 11 июня 2018 года (исследование «Improving Language Understanding by Generative Pre-Training»).

Более или менее осмысленная GPT-2 увидела свет 14 февраля 2019 года; продвинутая GPT-3 появилась 11 июня 2020-го; однако даже эта языковая модель представляла угрозу человечеству (в сознании FLI и сторонников этой организации) лишь гипотетически.

Всё изменилось 14 марта 2023 года, когда GPT-4 вывела AI на совершенно иной качественный уровень. Показательно, что широкой мировой общественности ничего про реальные изменения в языковой модели AI нового поколения не сообщили. Анонсирована была в основном способность модели анализировать на входных узлах своей нейросети не только текст, но и изображение. Большая же часть процесса скрыта под термином not public.

Можно не сомневаться, что отсутствие информации по GPT-4 в официальном отчете «GPT-4 Technical Report» — преграда чисто формальная, и все заинтересованные структуры и исследовательские центры с подробным списком обновлений новой модели ознакомились.

Как бы там ни было, но через неделю после публикации документации по GPT-4 FLI разразилась своим алармистским открытым письмом и вызвала нешуточный переполох.

Можно предположить, что сыр-бор вызвал не очередной призыв к трансформации AI из инструмента неорганизованного интеллекта (undirected intelligence) в инструмент благотворного интеллекта (beneficial intelligence) — ключевой пафос всех прошлых обращений пацифистской организации. Открытое письмо FLI от 22 марта 2023 призывает к добровольной заморозке на полгода исследований в совершенно иной области, а именно — AI систем с мощностью, превышающей мощность GPT-4.

Важно понимать, что речь уже идет не об обычном искусственном интеллекте, а о т. н. Artificial General Intelligence (AGI) — системах общего интеллекта (часто переводится как «сильный искусственный интеллект». — Прим. ред.), которые способны выступать полноценными конкурентами высших форм человеческого разума. Именно AGI, по мнению FLI, могут вызвать глобальное изменение в жизни на планете Земля и именно такие системы следует временно ограничить в развитии для того, чтобы сформировать адекватную этическую программу и реально действующие средства контроля со стороны homo sapiens.

AGI — вот объект, контроль над которым требует FLI и поддержавшие его призыв мыслители и предприниматели. Что касается остального (читай: бытового) AI, то в нём FLI больше не усматривает никаких угроз для мирного существования рода человеческого, пусть себе развивается на здоровье.

Предвидя опасения вовлеченных в разработку AGI корпораций насчет того, что 6-месячный мораторий усилит конкурентную борьбу, FLI поспешила успокоить заинтересованную сторону: опасаться, что конкуренты наверстают упущенное за полгода не стоит. Компьютерные мощности, необходимые для обучения AI на уровне, «превышающем GPT-4», доступны лишь очень ограниченному числу компаний (читай: в той или иной форме связанных с государством, а в случае с Китаем — так на все 100%), а отрыв от остальных игроков на рынке столь велик, что шансов сократить отставание никаких.

Забавно, что от широких масс энтузиастов, денно и нощно изучающих возможности GPT-4, ускользнул выход последней языковой модели на новый качественный уровень. Широкий круг моих знакомых единодушно утверждает, что GPT-4 дает практические рекомендации — в первую очередь, в области программирования, — со сниженным качеством по сравнению с предыдущей моделью GPT-3.5.

Полагаю, такой «лаг» на уровне практического применения обусловлен лишь свежестью модели, которой нет еще и месяца от роду. Качество взаимодействия с частной фактурой — штука наживная, поскольку обучение нейросети ограничено по скорости лишь мощностью компьютерного оборудования. 

Очевидно, что FLI, равно как и вся когорта ученого люда, поддержавшего призыв к мораторию развития AGI, знают о GPT-4 гораздо больше, чем обыватели. Тем не менее, кое-какие утечки в общественном информационном поле уже случились. В частности, у всех на слуху нашумевший случай, когда GPT-4, столкнувшись с необходимостью пройти проверку на сайте с помощью Captcha, обратился за помощью в TaskRabbit, систему сетевого аутсорсинга, и, прикинувшись слепым человеком, попросил вполне себе гуманоидного помощника внести вместо него Captcha. Что тот и исполнил, предоставив GPT-4 доступ к нужной информации.

Теперь, попытаемся понять, каким образом государство рассматривает искусственный интеллект в качестве ключевой технологии противостояния импульсам децентрализации, которые подрывают его, государства, властную монополию.

В ноябре 2022 года компания OpenAI представила общественности чатбот ChatGPT, который, собственно, и вызвал массовый интерес и распространение технологии искусственного интеллекта в мире. Сегодня подавляющее большинство частных клонов ChatGPT реализованы на языковой модели GPT-3.5, хотя есть уже и ряд имплементаций GPT-4. В любом случае, речь идет об уровне AI, предшествующем тому, что понимается под AGI, системами общего интеллекта. 

Все, кто работал когда-либо хоть раз с ChatGPT, не мог не заметить, что уровень «интеллекта» этого чатбота напрямую зависит от двух компонентов: объема информации, которую изначально отправили на входные узлы нейросети, а затем провели ее обучение, и от интенсивности взаимодействия пользователя с AI-игрушкой.

Параметр объема информации в бытовом чатботе ограничен разработчиком и им же модерируется (проще говоря, компания OpenAI сама решает, чем и в каком объеме обучать нейросеть языковой модели). Поэтому всякий раз, когда ChatGPT сталкивается с вопросом, на который он не знает ответа, чатбот начинает весело и непринужденно фантазировать.

Самый смешной пример такой фантазии — это история про то, как ChatGPT играет в шахматы. В Youtube полно роликов, в которых «искусственный интеллект», попадая всякий раз в затруднение, начинает придумывать несуществующие ходы: кто не смотрел, настоятельно рекомендую к просмотру — удовольствие гарантировано.

Недостаток информации на входных узлах нейросети ChatGPT компенсирует модулем обучения, основанного на анализе предыдущих вопросов пользователя ради адаптации под его предпочтения в будущем. Аналогичную тактику используют телефонные мошенники, которые звонят пенсионерам с рассказами о том, как их сын/внук попал в больницу/аварию, так что требуется срочно внести небольшую сумму на операцию / подмазку гаишника. По мере развития разговора из бабушки, находящейся в предынфарктном состоянии, выуживается вся нужная дополнительная информация (имена, даты, возраст, предпочтения, размер пенсии, размещение мебели в комнате, место хранения кошелька и проч.), которая затем непринужденно используется мошенником в собственных репликах для того, чтобы придать убедительности своей версии.

Ответы движка AI с каждым разом всё больше и интенсивнее нравятся пользователям, которые в итоге подсаживаются на эту иглу и им кажется, что они даже любят своего виртуального собеседника. На опасность такого допинга, кстати, указывает и FLI в комментариях к своему открытому письму от 30 марта 2023 (FAQs about FLI’s Open Letter Calling for a Pause on Giant AI Experiments), ссылаясь, в частности, на зафиксированный случай первого самоубийства, которое случилось недавно после общения с одним из клонов ChatGPT.

При любом раскладе AI уровня GPT-3.5 / GPT-4 — не более чем полезная и развлекательная игрушка. Что-то вроде Siri (или Алисы) на стероидах. Эта игрушка, несомненно, гарантирует интерес со стороны пользователей и частного бизнеса, но только не государства.

Взрослый разговор начинается там, где ведутся исследования по созданию систем общего интеллекта, которые FLI и поддержавшие их мыслители и бизнесмены стремятся запретить под предлогом непредсказуемости ситуации, когда искусственный интеллект начнет конкурировать с человеком в любой сфере знаний.

Дело в том, что 

погружающемся в виртуальную среду обитания. AGI в эпоху метаверсов (виртуальных пространств, в которых люди могут взаимодействовать друг с другом по собственным правилам. — Прим. ред.) — это ключ к моделированию любой реальности в таком виде, в каком эта реальность нужна контроллеру.

Если контроллеру (читай — государству) понадобится создать обширную и привлекательную для общества концепцию централизованного рая, единственно способного «защитить» цифровую среду обитания граждан от хаоса и энтропии децентрализованных соблазнов (например, того же Network State, сетевого государства, или размещения денег на кредитных платформах DeFi, а не в коммерческом банке), то имплементировать такую концепцию в бесконечное множество развернутых метавселенных окажется под силу только AGI, системе общего интеллекта.

Потому что только AGI может не просто тупо анонсировать «правильную» иерархию ценностей, но сделать ролевую модель поведения по-настоящему вирусной. Как? Встроив эту иерархию и модель в самую ткань цифровой реальности метаверсов! 

Думаю, несложно догадаться, откуда во всём этом появилась общественная озабоченность, направленная на немедленный запрет разработок AGI. Разве есть хоть одно государство в мире, которое добровольно смирится с утратой монополии на самую действенную технологию властного контроля над социумом, какую только породила современная наука, — над AGI? Вопрос, мне кажется, риторический.

Боюсь (вернее, радуюсь), что усилия FLI окажутся напрасными и государственный запрет демонополизации AGI обломается. По простой причине: все без единого исключения предыдущие попытки запретить децентрализацию, в какой бы сфере цифрового пространства эта децентрализация ни реализовывалась, всегда обламывались с конфузным треском.

Почему так? Потому что гнобить отныне приходится не локализованные субъекты, а технологии, у которых, как известно, нет ни физической формы, ни локуса. Цифровой мир — он ведь такой большой проказник.