ИИ и предубеждение

AI Bias, или ИИ-предубеждение, — относительно новый термин, еще не закрепившийся в словарях и учебниках. Согласно определению на сайте Стэнфордского университета, под AI Bias подразумеваются случаи, когда система действует в пользу или дискриминирует определенные группы людей. Университет объясняет, что предубеждение происходит не само по себе, а, например, из-за ограниченной базы данных, на которой обучается ИИ. В научной статье, опубликованной в Гарвардском центре изучения вычислений и общества, предубеждение со стороны ИИ дискриминирует тех, кто уже находится в уязвимом положении: например, чернокожих, которых исторически чаще задерживали полицейские в США.

Немного шире термин разъясняет технологическая корпорация IBM, создающая серверы для облачных вычислений и искусственного интеллекта. На ее сайте написано, что предубеждение корректнее приписывать не искусственному интеллекту, а алгоритмам — следовательно, речь идет именно об Algorithmic Bias. Такие перекосы могут возникать из-за особенностей обучающих данных, алгоритмов, настроек модели и способов ее применения.

В пример сотрудники института привели гипотетический случай, когда ИИ посоветует поднять зарплату в фирме только работникам-мужчинам — просто потому, что в прошлые годы руководители предпочитали делать именно так и не повышали женщин. О подобных рисках говорится и в отчете McKinsey & Company, вышедшем в том же 2019 году.

На проблему предубеждения ИИ стали обращать пристальное внимание в 2023–2024 годах, когда в публичном доступе появились продвинутые чат-боты и сервисы для создания изображений. Издание Bloomberg выяснило, что популярная Stable Diffusion при запросе «доктор», «генеральный директор», «адвокат» или «судья» неизменно рисовала белого мужчину, а преступников и поваров в фастфуд-сетях показывала темнокожими. Для тестирования журналисты сгенерировали более тысячи картинок и подтвердили свои опасения: у нейросети действительно существовало расовое и гендерное предубеждение.

В то же время пользователи специализированного ИИ-форума OpenAI в 2024 году заметили, что алгоритмы многих нейросетей изначально не склонны к инклюзивности и справедливой репрезентации. Например, если задать им вопрос, как выглядит типичный ученый и секретарь в офисе, они ответят, что первый — белый мужчина, а второй — женщина. При генерации картинок без указания расы и пола ChatGPT также чаще всего создавал изображение исключительно с белыми мужчинами и женщинами.

Что о предубеждении ИИ говорят ученые и эксперты?

В мировом научном сообществе AI Bias не только признают, но и всецело изучают. В этом можно убедиться, например, открыв статьи, опубликованные с 2021 по 2023 год исследователями из Королевского колледжа Лондона и Калифорнийского университета, Стамбульского университета и Университета Южной Калифорнии.

Их авторы рассматривали предубеждение в кросс-дисциплинарном ключе — то есть рассказывали о AI Bias не только как о технической, но и гуманитарной проблеме. Независимо друг от друга ученые пришли к выводу, что полностью избавиться от предубеждения невозможно, но сократить его влияние вполне реально.

После 2023 года ученые в основном рассматривали проблему AI Bias с этической точки зрения. Например, норвежский доктор медицинских наук Бьорн Хофманн в 2025-м году опубликовал статью о необходимости осторожного использования ИИ в медицине. По его мнению, из-за ошибок в алгоритмах растет риск нанесения вреда и уменьшается эффективность лечения — в качестве примера он привел тот факт, что медицинские нейросети хуже справляются с диагнозом и планом лечения рака кожи у пациентов с темными оттенками кожи.

Коллектив авторов из университетов Пенсильвании, Юты и Огайо в 2024 году выделил целых 13 разновидностей предубеждения ИИ, начиная с предубеждения в данных (Data Bias) и заканчивая предубеждением в подтверждении (Confirmation Bias). Таким образом, они подтвердили, что эти паттерны могут проявляться на самых разных этапах разработки и использования ИИ, и потому требуют постоянной перепроверки человеком.

Проблему всецело рассматривают и общественные организации. Так, по данным Центра защиты прав человека имени Кеннеди,

что составило около 450 миллионов долларов процентов. Центр защиты прав человека имени Кеннеди призвал к созданию этически правильного ИИ и принятию законов, которые регулировали бы нейросети на государственном уровне.

Существует ли ИИ-предубеждение на самом деле? 

Понять и осознать масштаб проблемы AI Bias можно на примере систематического гендерного ущемления алгоритмами. Так, в 2018 году выяснилось, что ИИ от Amazon, который должен был помочь HR-отделу быстрее просматривать резюме и выявлять лучших кандидатов на разные должности, постоянно отсекал женщин — в особенности тех, кто был старше 30. Это произошло из-за того, что система Amazon обучалась на исторических резюме сотрудников, среди которых преобладали белые мужчины.

Можно было бы предположить, что всё дело в несовершенстве технологий — всё же с момента, когда стало известно об этой истории, прошло почти десять лет. Но, например, в октябре 2025 года Стэнфордский университет выпустил статью, в которой сообщил о сохраняющемся предубеждении актуальных нейросетей в отношении женщин среднего и пожилого возраста. Исследователи провели эксперимент с ChatGPT, предложив чат-боту составить около 35 тысяч резюме для 54 профессий. Нейросеть составила рейтинг, где оценила пожилых мужчин выше, чем женщин с такими же вводными данными. Кроме того, чат-бот создал большое количество резюме молодых девушек без опыта, таким образом невысоко оценивая профессиональные навыки гипотетических женщин-соискателей.

К гендерному предубеждению нередко добавляется и расовое. Например, о том, что нейросети по умолчанию хуже относятся к женщинам латиноамериканского происхождения, говорится в отчете ООН. А в другом исследовании Стэнфордского университета 2026 года утверждается, что 26% заявок от чернокожих кандидатов и 15% заявок от азиатских приходились на вакансии, где ИИ дискриминировал расовую группу: то есть если бы алгоритм отбирал их с той же частотой, что и наиболее предпочтительную группу, обычно белых кандидатов, еще около 40 тысяч таких заявок прошли бы на следующий этап.

Предубеждение существует и в других сферах, касающихся не только найма на работу. Так, ЮНЕСКО выделяет использование ИИ в судебной сфере как довольно рискованное и предполагает, что нейросети могут по умолчанию рекомендовать вынести обвинительный приговор представителям расового меньшинства. Исследователи действительно обнаруживают перекос в сторону обвинительной позиции. А американская ИИ-система CrimeScan, которая с учетом имеющихся данных должна предопределять, в каких районах с большей вероятностью произойдут новые преступления, вовсю критикуется правозащитниками. Проблема в том, что такие данные уже отражают прежнюю работу силовых ведомств: к примеру, если раньше полицейские чаще патрулировали и задерживали людей в бедных районах, где живет больше представителей расовых меньшинств, алгоритм может принять это за доказательство наибольшего уровня преступности.

ИИ действует с предубеждением и в сфере образования и науки. Например, в статье всё того же Стэнфордского университета 2024 года говорится, что нейросети в гипотетических ситуациях склонны разделять школьников и студентов в зависимости от расовых стереотипов. Например, самыми умными в классе они автоматически считают девочек азиатского происхождения, азиатов выделяет как талантливых в математике и точных науках, а отстающими называет учеников с афроамериканским и латиноамериканским происхождением. Так, даже Министерство образования США в 2024 году рекомендовало перепроверять рекомендации от ИИ по обучению отстающих учеников, так как тот может ошибаться в своих суждениях и не оказывать помощь определенным расовым группам.

Более того, ИИ может дискриминировать людей, для которых английский не родной язык. Нейросети, обученные преимущественно на англоязычных данных, могут считать тексты на английском более корректными, а исследования ученых из других языковых сред — менее качественными из-за языковых ошибок.

Как ИИ-предубеждение влияет на политику и общественное мнение? 

Из примеров выше видно, что ИИ нередко воспроизводит стереотипы и предубеждения. Особенно опасны такие ошибки в политических вопросах: чат-боты могут не только искажать информацию, но и влиять на то, как пользователи сервисов воспринимают общественные процессы.

Так, исследование Европейского вещательного союза и BBC на основе ответов ChatGPT, Copilot, Gemini и Perplexity показало, что 45% ответов чат-ботов содержали хотя бы одну существенную проблему, а в 20% случаев — серьезные ошибки в фактах, в том числе выдуманные детали и устаревшую информацию.

Исследователи Йельского университета показали, что даже, на первый взгляд, нейтральные ответы чат-ботов на простые вопросы могут немного сдвигать социальные и политические взгляды. По мнению ученых, причиной могут быть скрытые предубеждения, которые модели получают из данных при обучении. Эффект оказался небольшим, но исследователи предупреждают, что при регулярном обращении к чат-ботам он может накапливаться.

Пользователи чат-ботов и сами замечают политический уклон в ответах ИИ. В исследовании Стэнфордского университета 2025 года более 10 тысяч американцев оценивали ответы 24 моделей на 30 политических вопросов: в 18 случаях из 30 почти все модели воспринимались как склоняющиеся влево, причем так считали и республиканцы, и демократы. Наиболее выраженным левым уклоном участники исследования сочли ответы моделей OpenAI (чат-бот ChatGPT), а второе место по воспринимаемому левому уклону заняли модели xAI (чат-бот Grok) Илона Маска. Gemini (компании Google) и DeepSeek (среди инвесторов — крупные китайские корпорации вроде Tencent) в среднем воспринимались ближе к нейтральным.

Похожее исследование в феврале 2025-го провели немецкие ученые, сравнившие ответы Llama и Mistral (с открытым исходным кодом) с позициями немецких партий по 38 вопросам. Выяснилось, что языковые модели, особенно Llama 3 70B, чаще совпадали с позициями левых и прогрессивных партий и заметно реже — с позициями правой AfD. При этом на немецком языке модели чаще занимали определенную позицию, а на английском чаще отвечали нейтрально.

В ChatGPT и Claude в том же году заявили, что уже работают над политической нейтральностью моделей.

Обсуждаемые примеры искажений появляются постоянно. Так, прореспубликанский американский канал Fox News утверждал, что Gemini от Google в ответах о хейт-спиче упоминал только республиканских сенаторов, не приводя аналогичных примеров с демократами. А Grok при создании статьи об Альберте Шпеере, рейхсминистре вооружения при Адольфе Гитлере, для Grokipedia (клоне Wikipedia от Илона Маска) использовал недостоверные сведения из пропагандистских заявлений самого нацистского министра и не учел данные из исследований историков, которые им противоречат.

О полной политической нейтральности трудно говорить и потому, что модели создаются в определенных политических и правовых системах. Например, китайские модели часто цензурируют информацию, изобличающую Коммунистическую партию Китая и лично председателя Си Цзиньпина, а DeepSeek, Kimi и Qwen в ряде случаев воспроизводят пропагандистские нарративы. При этом содержание и тональность ответов может меняться в зависимости от языка промпта.

Политическая предвзятость ИИ еще долго будет оставаться предметом споров. Например, в 2025 году администрация Дональда Трампа потребовала от ИИ-корпораций убрать «идеологическое предубеждение» ради национальной безопасности. Президент США даже распорядился, чтобы государственные ИИ-системы не продвигали «воук»-идеи вроде инклюзивности и гендерной идентичности.

Европейский Союз принял регламент об искусственном интеллекте еще в 2024 году, но в нём ничего не говорилось о политическом предубеждении нейросетей. Однако в декабре 2025 исследовательский сервис Европарламента выпустил отчет о рисках политической манипуляции со стороны ИИ — например, чат-боты на вопросы о, например, военной помощи Украине могут приводить дезинформацию. Но на высшем уровне никакие законы еще не принимались.

Политическую предвзятость нейросетей в своих интересах пытаются использовать и Китай, и Россия. Так, Пекин, по данным OpenAI, задействует ChatGPT для распространения дезинформации о вреде дата-центров в США. А Москва, по данным британской некоммерческой организации Institute for Strategic Dialogue, пытается влиять на ответы ИИ через сеть подставных медиа на английском языке: исследователи обнаружили, что ChatGPT, Gemini, DeepSeek и Grok примерно в 18% проверенных ответов о войне в Украине ссылались на российские государственные СМИ и другие источники, распространяющие прокремлевские нарративы.