Пропаганда: реальная или «для галочки»?

В начале 2010-х российская пропаганда избавилась от характеристики «сурковская» и вступила в новую фазу, которая требовала от кремлевских манипуляторов куда большей наглости и цинизма. Так публика узнала о «распятом мальчике», «Навальном-Гитлере», «боевых комарах», «грязной бомбе» и других топорных клише, призванных оправдать экспансионистскую политику и репрессии.

Этот дезинформационный гротеск, олицетворением которого стали персоны вроде Владимира Соловьева и Маргариты Симоньян, с годами настолько сросся с понятием «российская пропаганда», что постепенно вовлеченные в политическую повестку россияне начали отказывать ему в серьезности. Сейчас оппозиционные блогеры рассматривают пресс-релизы Минобороны РФ, «Вести недели» Дмитрия Киселева или фейки из Z-телеграм-каналов про наркоманию Владимира Зеленского как низкопробную чушь, рассчитанную на неинформированные и плохо образованные слои населения и достойную разве что высокомерно-ироничной аналитики на ютубе. Так оно, в общем, и есть.

Но важно учитывать, что визжащий о войне с НАТО Соловьев — это не самое репрезентативное воплощение кремлевской пропаганды. Рассчитанная на «внутреннего потребителя» дезинформация в целом — от «Первого канала» до Z-сегмента Telegram, от Кристины Потупчик до Ольги Скабеевой — отнюдь не полная «пропагандистская витрина». Дискурс в России 2024 года достаточно эффективно формируют законы о военной цензуре, расправы над оппозицией и уничтожение любых проявлений общественной жизни, которые расходятся с повесткой власти, — в таких условиях традиционная пропаганда играет третьестепенную роль, и ее реализацию даже допустимо отдать на аутсорс «любителям», что мы наблюдаем на примерах общества «Знание» или АНО «ИРИ».

Кремль был бы счастлив применить те же репрессивно-цензурные рычаги влияния на общественное мнение и на Западе, однако иностранная публика доступна ему исключительно через медиа.

Потому что россиянин не имеет прямых инструментов для влияния на политику своего государства, в то время как немец — это человек протестующий и голосующий, в том числе за кандидатов в Бундестаг и Европарламент, то есть за институции, играющие ключевую роль в поддержке Украины.

И пока «бесполезному» россиянину телевизионные пропагандисты неубедительно рассказывают про недемократичность и марионеточность европейских стран, в администрации президента России в западную демократию, очевидно, очень даже верят и делают на нее серьезную ставку. Чтобы убедить условного немца на следующих выборах проголосовать за евроскептиков, нанятые Кремлем медиатехнологи тратят сотни тысяч долларов на рекламу в Facebook и X, ежедневно подделывают сайты известных западных СМИ и министерств, обманом запрашивают у экспертов комментарии, в огромных объемах закупают домены и сервера в европейских дата-центрах, используют искусственный интеллект и сложную систему переадресации и в конечном итоге добиваются охвата аудитории в сотни миллионов пользователей, перед чем власти западных стран и модераторы социальных медиа пока что практически бессильны.

Почему Doppelgänger?

Проблема в том, что обсуждаемый феномен не зациклен на каком-то конкретном аналитическом центре или СМИ. Это огромная децентрализованная инфраструктура, предположительно аффилированная с десятками разнопрофильных компаний по всему миру и опирающаяся на тысячи ботов и взломанных аккаунтов в соцсетях. Впервые на нее обратил внимание европейский Think Tank EU DisinfoLab в сентябре 2022 года, выпустив отчет о том, как в мае того же года в западном сегменте интернета была запущена «скоординированная операция» по продвижению антиукраинских и антизападных нарративов через клоны сайтов известных СМИ. Из-за этой специфики EU DisinfoLab присвоил кампании название Doppelgänger, то есть «двойник» (реже, например, в официальных документах ЕС, кампания именуется RRN или Recent Reliable News — по названию «системообразующего» для нее новостного сайта).

Вероятно, со времен скандала вокруг вмешательства России в президентские выборы в США в 2016 году внешние информационные операции Кремля не провоцировали большего резонанса в западных СМИ, чем Doppelgänger в 2024-м: о нем писали и проводили собственные расследования The New York Times, Der Spiegel, The Atlantic, The Washington Post и Politico, подробные технические отчеты об операции выпускали OpenAI, Meta и Viginum, а Европейский совет вводил против ответственных за ее проведение компаний и физлиц санкции. Среди них — известная «внутренними» фейками АНО «Диалог», связанное с ГРУ информагентство «Инфорос», группа IT-компаний «Структура» и «Агентство социального проектирования» — политтехнологическая компания, работающая, в частности, с клиентами из Госдумы и МВД, а также ключевые фигуры в перечисленных организациях.

Гипотезы о существовании Doppelgänger как скоординированной операции никто из них не комментировал, российские власти — тоже. Более того, в медиасреде РФ существует подозрительный «молчаливый консенсус» в отношении «Двойника»: при всей обсуждаемости темы на Западе и общей масштабности происходящего на русском языке об операции писали исключительно «запрещенные» и «нежелательные» СМИ вроде The Insider, «Медузы» или «Новой-Европа». В архивных материалах, например, Lenta.ru, «Коммерсантъ», РБК или ТАСС упоминания Doppelgänger (или же других названий, от RRN до Storm-1099/Storm-1679, используемых Microsoft) отсутствуют напрочь — даже через косвенные инфоповоды вроде введения санкций или официальные вроде пресс-релиза МИД Франции. Это может свидетельствовать о существовании определенного «блока на негатив», навязанного редакциям госСМИ в отношении конкретной темы. Действительно ли она так болезненна?

Как работает Doppelgänger?

В чем, собственно, состоит принцип работы Doppelgänger? Его возможно испытать самостоятельно, если вы активно пользуетесь Facebook или X и проживаете в Европе, Северной Америке или Израиле. Особый акцент кураторы кампании делают на Францию, Германию, Украину, Латвию, Италию, Великобританию, США и Польшу. С каждым месяцем пропагандистская инфраструктура увеличивает охваты аудитории (на начало июня 2024 года публикации ее ботов просматривали до 1,6 млн раз в сутки), а модерация рекламы в соцсетях охватывает менее 5% коммерческих записей, и «Двойник» успешно ее обходит за счет трехступенчатой переадресации (о ней чуть позже). Велика вероятность, что вы, живя в «странах-жертвах», сами могли наткнуться в ленте на публикации странного содержания.

Как правило, это сгенерированный чат-ботом однострочный пропагандистский тезис в духе «Макрон лжет французскому народу, пришло время его сместить — подробнее читайте здесь». Вероятнее всего, такой текст в своей ленте увидит француз, причем именно на французском — Doppelgänger распространяет пропаганду на 13 языках и адаптирует контент под предпочтения целевой аудитории (ЦА) через рекламные алгоритмы. К примеру, пользователь Facebook, интересующийся ЛГБТ-тематикой, с большой долей вероятности получит предложение ознакомиться с каким-либо материалом на сайте mypride.press — это одна из сотен подконтрольных «Двойнику» «информационных помоек», по своему наполнению и оформлению крайне типологическая.

Портал My Pride выглядит очень кустарно, статьи написаны шрифтом Comic Sans и представляют собой перепечатки материалов с различных консервативных ресурсов США — обязательно с критикой администрации Джо Байдена и в сопровождении сгенерированных AI иллюстраций. Никакой информации о редакции портала на сайте, конечно, нет, значки социальных сетей кликабельны, но переводят пользователя на их главные страницы. По такому же принципу сделан сайт Holy Land Herald про Израиль или Le Dialogue — одна из наиболее успешных подделок «Двойника», пытающаяся мимикрировать под авторитетное французское СМИ, для которой регулярно пишет колонки бывший депутат Национальной ассамблеи.

Именно на такие сайты вы попадете, если нажмете на ссылку, по которой вас просят перейти боты Doppelgänger. Это попытка за счет формата и стилистики традиционных медиа, которым европейские читатели привыкли доверять, скормить им пропагандистский продукт — и таких эрзацев в арсенале Doppelgänger сотни, почти все ежедневно редактируются и обновляются. Своего рода «флагманом» среди них считается Recent Reliable News (в прошлом он вовсе назывался Reliable Russian News), а также очень на него похожий портал Voice of Europe (VOE), который власти Евросоюза не так давно заблокировали и включили в санкционный реестр. По данным СМИ, через VOE российские власти финансировали немецкую правопопулистскую партию «Альтернатива для Германии».

Но чаще «Двойник» прибегает к использованию совсем уж откровенного тайпсквоттинга — регистрации доменов, практически полностью идентичных адресам известных западных СМИ. К примеру, Spiegel.pro вместо Spiegel.de, Leparisien.ltd вместо Leparisien.fr и так далее. Самое примечательное, что помимо доменных имен копируется и дизайн сайта, что делает его визуально почти неотличимым от оригинала и потому способным ввести в заблуждение не слишком внимательных пользователей. Одной из первых жертв такого «дуализма» стал сайт авторитетной немецкой газеты Süddeutsche Zeitung, клон которой летом 2022 года решил рассказать аудитории о пустых полках в продуктовых магазинах Германии, насилии полиции ФРГ над митингующими и результатах несуществующего опроса, согласно результатам которого большинство немцев считают свое правительство «слишком мало делающим для своих граждан».

— описывал «Зюддойче» смысловую составляющую своего доппельгангера. Собственно, это актуально для всех проектов, задействованных в этой инфраструктуре: Украина в них преподносится как глубоко коррумпированное, нацистское и марионеточное государство, а Европа — как жертва чуждых для нее интересов США, вынужденная расплачиваться за поддержку Украины ухудшением качества жизни.

а также многократно увеличивает интенсивность дезинформации для конкретных стран в период проведения в них выборов или каких-либо важных в украинском контексте событий вроде Мюнхенской конференции по безопасности. Ряд аналитиков также считают победу Петера Пеллегрини на президентских выборах в Словакии весной этого года следствием кремлевской пропагандистской активности.

С технической точки зрения Doppelgänger устроен довольно искусно. Он умело проводит свои публикации сквозь модерацию соцсетей (которая, напомню, и так не слишком внимательна и затрагивает до 5% от общего объема рекламы), продвигаемые как промоакции за счет той самой трехступенчатой переадресации. Нажимая на виджет статьи, на которую ссылается бот «Двойника», пользователь сначала попадает на пустую веб-страницу, отвечающую за содержание самого виджета. Рядовой читатель X сможет заметить ее только при аномально долгой загрузке, и занимающийся кибербезопасностью аналитический центр Sekoia.io выявил, что на кажущейся пустой странице белым шрифтом написан бессмысленный текст на русском языке.

Следующая страница также заполнена набором слов (уже английских), и в нее вшит скрипт, который запускает загрузку еще одного JavaScript-кода, который, в свою очередь, и перенаправляет пользователя на финальную страницу фейкового новостного сайта. Что примечательно, на ней используется трекер трафика от компании Keitaro, который позволяет кураторам кампании анализировать ее эффективность.

Собственно, об этих самых кураторах нам известно очень мало. Большинство аналитических центров сходятся во мнении, что центральную роль в истории с Doppelgänger играют уже упоминавшиеся ранее подсканционные «Агентство социального проектирования» и группа «Структура» — максимально непубличные конторы, которые в этом отношении допустимо сравнить с пригожинским «Агентством интернет-исследований», более известным как «фабрика троллей». Она была своего рода «протодоппельгангером», куда менее технически изощренным и масштабным, более централизованным и, соответственно, более уязвимым к журналистским расследованиям, основанным на утечках и пренебрежении сотрудников «фабрики» конфиденциальностью.

Если Doppelgänger в обозримом будущем окажется разоблачен, то есть если общественность узнает, по какому принципу внутри этой инфраструктуры выстроен рабочий процесс, какие фигуры непосредственно отвечают за редакционную политику сотен фейковых сайтов и перед кем они отчитываются, — это также, вероятнее всего, произойдет благодаря утечкам, первую из которых стоящая за операцией команда впервые за два года деятельности допустила в конце июня.

Что мы сегодня о нем знаем?

Из СМИ утечку пока что вскользь упомянул только немецкий CORRECTIV в своем свежем расследовании о том, что фейковые сайты Doppelgänger развернуты на серверах в странах Евросоюза. Однако это чрезвычайно важная деталь, которая, вероятно, сможет стать отправной точкой в деанонимизации коллектива «Двойника».

27 июня Пол Бушо, сотрудник НКО AI Forensics, исследующей «непрозрачные алгоритмы», опубликовал в X иллюстрацию к одной из публикаций бота Doppelgänger. Очевидно, бильд-редактор допустил ошибку и вместо самой иллюстрации загрузил в Facebook ее скриншот, сделанный в программе VK Teams, копии одноименной платформы от Microsoft, используемой окологосударственными компаниями и вузами в России из-за «послевоенных» требований к цифровой безопасности.

Интерфейс VK Teams очень напоминает Telegram, в десктопной версии которого фотография при открытии занимает не весь экран, но лишь определенную его область по центру, затемняя края легким блюром, который Бушо с помощью AI удалось проявить, — и теперь в открытом доступе имеется скриншот рабочего стола сотрудника одной из аффилированных с Doppelgänger компаний, на основе которого можно сделать несколько важных выводов.

1. Doppelgänger действительно существует как единая координируемая инфраструктура. В списке чатов человека, сделавшего скриншот, семь посвящены странам, которые охватывает «Двойник» (Украине, Германии, Франции, Израилю, США, Италии и Польше), один — некоему «Сайту У» (предположительно опять же указание на Украину) и мультфильмам, о чем говорит обрывающееся под развернутой на экране иллюстрацией слово «муль» в сочетании с Винни-Пухом в качестве груп-фото. Это имеет смысл, поскольку «Двойник» также занимается производством собственного мультимедийного контента — от шаржей, карикатур и фото фейковых граффити в европейских городах для распространения в том числе по системе «Матрешка» (о которой подробный отчет выпускал AFP) до целых мультсериалов. Ярчайший пример — Ukraine Inc, анимационный проект из пока что 12 эпизодов, который российская пропаганда преподносила как «французский мультфильм», — это, конечно, не так. В отчете OpenAI также говорится, что «Двойник» «пытался заставить наши программы создать мультяшные образы известных европейских политиков и критиков России. Программы отказались от этих запросов». На скриншоте открыт французский чат, в котором идет подготовка статьи о неспособности Украины выиграть войну для публикации на фейковом сайте Le Parisien — на этот раз с доменом .wf. Люди, очевидно, являющиеся в конфигурации Doppelgänger старшими или выпускающими редакторами, обозначают в чатах задачи, помечают статьи как «в работе» и прикрепляют к ним исполнителей — это очень напоминает «конвейерный» формат организации работы в новостных службах российских госСМИ. И не исключено, что в менеджменте Doppelgänger задействованы выходцы из их редакций: можно вспомнить расследование немецкого T-Online о близости «Двойника» с «Первым каналом», «Известиями» и «РЕН ТВ» (иначе говоря, с близкой к Владимиру Путину «Национальной медиагруппой»).
2. На Doppelgänger работает женщина по имени Алина Малинина, мужчина по фамилии Феоктистов и человек, скрывающийся за никнеймом Джон Голт. Нет оснований полагать, что первые два имени ненастоящие, однако информации для идентификации этих людей слишком мало: на фото профиля Алины (сильно искаженном AI-обработкой) различается девушка с русыми волосами, одетая в красный пуловер и сидящая нога на ногу, в VK пользователей с таким именем и схожим аватаром по состоянию на июль 2024 года нет. По активности Малининой и Феоктистова в чатах можно предположить, что эти люди — старшие или шеф-редакторы: они раздают сотрудникам задачи, просят проверять обновления их статусов и обращаются к другим как к «коллегам». Вопрос «Кто такой Джон Голт?» ответа не имеет, как и в книге Айн Рэнд «Атлант расправил плечи», откуда неизвестный пропагандист этот псевдоним позаимствовал. В нашем контексте он достоин внимания как индикатор идеологических предпочтений части сотрудников Doppelgänger: образ Джона Голта, как и сам «Атлант», довольно популярен в американской правоконсервативной среде, плакаты с упоминанием Голта встречались в ходе протестов либертарианского Движения чаепития в конце 2000-х. Собственно, именно на правоконсервативном дискурсе Doppelgänger и пытается паразитировать — в частности, по данным Infosecurity Magazine, «Двойник» покупал заказные эфиры (конкретно вот этот) у Эндрю Наполитано, известного среди консерваторов США публициста и ютубера либертарианского толка.
3. Обратим внимание также на панель задач macOS, также попавшую на скриншот. Наиболее интересная деталь здесь — загадочная программа под названием FBtool, открытая на момент снимка скриншота, то есть во время рабочей смены предполагаемого бильд/выпускающего-редактора Doppelgänger. С наибольшей вероятностью это утилита для серийного создания и управлениями аккаунтами в Facebook, на сайте GitHub описанная как «бот для создания Facebook-аккаунтов». С наименьшей — плагин для Keitaro, размещенный на его официальном сайте (это та самая компания, трекер которой «Двойник» использует на сайтах фейковых СМИ). И, разумеется, необходимо отметить, что сам факт использования коллективом «Двойника» платформы VK Teams — это очевиднейшее указание на то, что работает он, согласуясь с требованиями безопасности российских государственных органов. Даже если всё происходящее на скриншоте — дело рук частной компании, выполняющей теневой госзаказ, заказчик эту деятельность строго контролирует и заботится о ее конфиденциальности.

Поля новой пропагандистской войны

Так действительно ли это столь важная институция, что по какой-то причине информацию о ней госСМИ и российские чиновники не желают ни под каким предлогом делать достоянием общественности ни через опровержения, ни через традиционные для МИД и АП насмешки? Почему столь масштабная операция, которую, в сущности, на фоне упомянутых в начале статьи «боевых комаров» и «грязных бомб» допустимо назвать пропагандистской гордостью Кремля, будто умышленно замалчивается?

Можно предположить, что люди, ответственные за работу этой кампании, очень не хотели бы лишний раз афишировать, что реальность, существующая на поддельных доменах вроде Reuters.cdf и Spiegel.pro, где Зеленский — «слабовольный наркоман, презираемый уставшими от войны, голодающими и жаждущими российского газа европейцами», — существует исключительно в рамках дезинформационной операции.

В концепции этой картины мира Le Dialogue становится авторитетнее Le Figaro, а распространяющие чушь боты — субъектнее публицистов и эссеистов, которых российские власти признают иностранными агентами.

Практически во всех технических отчетах, которые я изучил для подготовки этой статьи, влияние Doppelgänger на политические процессы на Западе специалисты по кибербезопасности оценивают как незначительное, отмечая при том тревожную тенденцию бесконтрольного разрастания операции, с которой тяжело бороться административными методами. Однако даже при утешительных оценках вредоносности подобных кампаний не стоит забывать, что каждая из них — это часть гигантской системной проблемы, которую обозреватель The Atlantic Энн Эпплбаум в своем важном эссе охарактеризовала как «новую пропагандистскую войну».

В нее вовлечены практически все современные авторитарные диктатуры, особенно деятельно — Китай, Россия, Иран и Венесуэла. В каждой из них активны сотни компаний, операций и медиаперсоналий, ежедневно превращающих интернет в место, где не хочется находиться, где реальность искажается усилиями AI и миллионов ботов, а качественный и достоверный контент утопает в фейках и манипуляции алгоритмов. В частности, в Китае и Иране есть аналоги Doppelgänger — Spamouflage и International Union of Virtual Media, соответственно.

Сейчас государственные власти в либеральных демократиях и администрации социальных сетей вроде Facebook и X, которые в середине 2000-х запускались как флагманы Web 2.0 и свободы пользовательского самовыражения, в беспрецедентных объемах вынуждены это самовыражение всячески модерировать, ограничивать и сопровождать дисклеймерами, поскольку самовыражаться пожелали и авторитарные режимы, научившиеся мимикрировать под обычных юзеров и воздействовать на алгоритмы.

Как это ни печально, при сохранении текущих тревожных тенденций и неспособности западных стран соразмерно отвечать на цифровые авторитарные вызовы интернет станет не просто еще более «замусоренной» и токсичной, но и опасной средой (об этом я недавно подробно писал для «Новой газеты», еще более подробно — для Republic).

Симптоматично, что даже сам Doppelgänger делает ставку на копии страниц авторитетных изданий, выходящих в европейских странах порою еще с XIX века. Он, его кураторы и аналоги из других стран настолько девальвировали социальные сети как источники информации, что последним убежищем достоверности для публики по всему миру вновь стали традиционные СМИ.

Было бы большой ошибкой позволить русифицированным джонам голтам, а также их иранским, китайским, северокорейским и венесуэльским инкарнациям превратить это убежище в очередную пропагандистскую свалку.