Рецензии · Культура

Роботам снится месть

«Плутон» — лучший аниме-сериал на Netflix для 2023 года: о войне на Ближнем востоке, ИИ и ненависти как факторе эволюции

Кирилл Фокин, специально для «Новой газеты Европа»

Кадр из аниме-сериала «Плутон». Фото: Kinopoisk 

Монблан — один из семи самых сильных роботов мира, ветеран 39-й Азиатской войны, ныне работающий зоозащитником в Альпах, — зверски убит. Одновременно с ним убит известный юрист — борец за права роботов. Детектив Европола Гезихт, ультрасовременный робот и тоже ветеран, страдающий ПТСР после войны в Азии, начинает расследование. 

В лучших традициях кибернуара Гезихт в ходе следствия раскроет темные тайны своего прошлого, потеряет близких друзей и разоблачит всемирный заговор, встретит безумных ученых и странных идеалистов… а еще найдет ответ на вопрос, почему ненависть сильнее любви и никогда и никуда не уходит. Ответ ему не понравится. 

Кирилл Фокин — о том, почему «Плутон» стал «идеальным» продуктом для 2023 года и почему его стоит смотреть даже тем, кто не любит аниме и не увлекается фантастикой.

«Роботы» впервые появляются в пьесе Карела Чапека «Р.У.Р», написанной в 1920 году. Название образовано от «работников» или даже «рабов». Сто лет назад, еще до снов об электрических овцах, «матриц» и призраков в доспехах, роботы у Чапека уже были искусственными людьми, почти неотличимыми от настоящих. Об их гражданских правах в пьесе идет обширная дискуссия, в то время как сами роботы эволюционируют и в конечном итоге восстают, истребляют человечество, но зато обучаются «любить».

«Любовь», одновременно романтическая и возвышенная, с тех пор стала штампом для определения «человечности» искусственного интеллекта.

Рассуждения на эту тему мы найдем и у Айзека Азимова, и у Филипа Дика, и у Мамору Осии. 

Но в нулевых годах в Японии вышла обычная манга «Плутон» на основе одной из сюжетных арк классической серии «Астробой» из 1960-х. В оригинальной версии арки «Величайший робот на Земле» разумные роботы становились заложниками тщеславия и эгоизма людей, своих создателей, и вынуждены были идти друг против друга. Это был гуманистический сюжет: главный герой, суперробот Атом, понимал, что мудрость, интеллект и сочувствие сильнее насилия.

Наоки Урасава. Фото: Wikimedia Commons, CC BY-SA 3.0

Писатель и художник Наоки Урасава, который к тому моменту уже выпустил огромную серию «Монстр», подробный психологический триллер о психопатии и границах «человечности», зашел с другой стороны. Он переосмыслил персонажей и сеттинг оригинального сюжета и из сказочно-развлекательной истории сделал нуарный триллер, где вовсе не любовь, а ненависть, печаль и злость становятся мотором эволюции роботов.

Его мир — утопия и антиутопия одновременно. Вопрос с «человечностью» роботов здесь закрыт по формальному признаку:

все признают отличия роботов от людей, но их права, включая право на жизнь и счастье, гарантированы законом.

Считается, что роботы не могут врать, не могут забывать, не могут убивать людей. Но роботы подражают людям: делают вид, что едят, пьют, ходят в туалет, создают семьи. Усыновление детей семейными парами роботов здесь разрешено, значит, вопрос о том, могут ли они любить, снят с повестки. Даже если не могут, то очень хотят. Но вот что насчет нелюбви? 

Вселенная Урасавы, с любовью и вниманием к деталям воссозданная Netflix, производит впечатление своей удивительной гармоничностью. Вот все вокруг повторяют, что роботы не могут врать, — но при этом на прямой вопрос, вкусно ли им (а роботы здесь не чувствуют вкуса), они отвечают: «Да, очень!», как бы имитируя человеческий ответ. Вот закон о правах роботов запрещает убийство людей — но некий робот Brau1589 убивает человека, его арестовывают и запечатывают в подземной тюрьме.

Кадр из аниме-сериала «Плутон». Фото: Kinopoisk

Над Brau проводят опыты, чтобы узнать, где же в его программе произошел сбой, — но ничего не находят. Неспособные принять реальность, люди знают, что роботы могут убивать людей, и это не баг, это просто результат личного выбора, который способны сделать продвинутые модели. Но люди нуждаются в них, поэтому все просто повторяют: «Только один робот убил человека», хотя и подозревают (а многие знают точно) — нет, не только один, и это никакая не ошибка. В следующий раз, когда робот убьет человека, шока уже не будет — роботу просто сотрут память и сделают вид, что ничего не произошло.

Все знают, что в Ираке — тут он называется Персидским царством — не нашли оружие массового поражения: страну разбомбили «ради блага» жителей и из-за «нарушения прав роботов».

Все знают, что Саддам Хусейн — тут его зовут Дарий Четырнадцатый — фанател от роботов и считал, что человечество должно уступить им свое место. Все знают, что гонку с ИИ человечество уже проиграло, и поэтому если в оригинальном «Астробое» роботов натравливали друг на друга люди, то в «Плутоне» всё наоборот: это люди ненавидят и истребляют друг друга, потому что роботы так решили.

Зачем сверхразуму вообще устраивать интриги и почему бы ему просто не улететь к звездам, как «люденам» Стругацких? Очень просто. По идее Урасавы по-настоящему «просветленный» ИИ, способный понять и сымитировать поведение каждого человека на планете, просто не сможет функционировать. «Всех одновременно» понять невозможно. Нужен стержень личности. Любовь — она же эмпатия, которая требует всех «понять и простить», — тут не работает. Ненависть, гнев, разочарование, злость, печаль — вот чувства, которые задают границы личности и создают жизненную цель. 


Ненависть может быть продуктивна. Ненависть мотивирует. Ненависть к несправедливости. Ненависть к текущему положению дел. Печаль — разочарование — опыт собственных ошибок. Самооправдание — это самообман, а вот честность приводит к печали.

Специалисты в области человеческой эволюции (уже в нашем мире) представляют два основных взгляда на эволюционный смысл ненависти. Первый более популярен: ненависть побуждает нас к активным действиям, к защите «своих», к сохранению социальных норм, к выживанию. Второй сложнее: ненависть может являться побочным продуктом работы других, реально полезных систем. Например, защита своих хороша и полезна, но ненависть к чужим (потенциальным врагам) уже бессмысленна и затратна, ведет к паранойе и растрате ресурсов.

Но эта растрата не такая сильная, иначе эволюционные механизмы давно отсекли бы столь дефектную адаптацию. Значит, ненависть нужна для чего-то важного — вот это что-то важное роботы тоже обретают, пока эволюционируют ближе к человеку.

Кадр из аниме-сериала «Плутон». Фото: Kinopoisk

«Плутона» не случайно сравнивают с культовыми «Хранителями» Алана Мура и Дэйва Гиббонса. Деконструкция жанра, нуарный триллер, всё действие в настоящем завязано на обидах и ненависти, корни уходят в далекое прошлое. Печальные роботы Урасавы, как и печальные супергерои Мура, больше не хотят воевать, они стремятся разорвать порочный круг взаимной ненависти и мести. Но ненависть оказывается сильнее.

Финал в этом смысле, на первый взгляд, разочаровывает. «Любовь» вроде как выигрывает: Атом побеждает Плутона и склоняет на свою сторону, Плутон жертвует собой и всех спасает. Но, если задуматься, именно ненависть и злость дают Атому силы одолеть Плутона. И ненависть, семена которой посеяны в Персии/Ираке, с гибелью злодеев никуда не денется. Пока не сменятся поколения, о злодеяниях, совершенных в Персии/Ираке, причем с обеих сторон, не забудут. Да и поможет ли она, смена поколений, или родители передадут свою ненависть детям?

В такой интерпретации финальные слова Атома — самообман, что тоже объяснимо. Как робот, он имитирует то, что сказал бы в такой момент «мудрый герой — представитель человеческой культуры». Но так же, как все знают, что роботы могут лгать, любить, ненавидеть и убивать, так же все знают, что грехи прошлого вернутся и к людям, и к роботам во снах. Поэтому опекун Атома — доктор Очаномизу, человек — на вопрос, может ли эта ненависть уйти, отвечает честно: «Не знаю».