Задача тысячелетия: выживет ли математика?

Нерешаемая задача

Почти 200 лет назад французский инженер Клод-Луи Навье и ирландский математик Джордж Габриель Стокс попытались математически описать хаотическое движение жидкостей и газов. Когда летит самолет, дует ветер, течет река, то частички жидкости или воздуха давят друг на друга, сопротивляются движению и ускоряются. Уравнения Навье — Стокса пытались объединить все эти явления в формулу, которая показывала бы, насколько сильно давит поток, как сильно жидкость сопротивляется потоку и какие внешние силы на нее действуют.

Исследователи применили второй закон Исаака Ньютона — «сила равна произведению массы на ускорение». Ученые пришли к тому, что описать движение газов и жидкостей можно, указав скорость и давление в каждой точке того объема, который они занимают.

Теперь в OpenAI доказали, что уравнения Навье — Стокса иногда могут давать решения, которые невозможны в реальности. С помощью ИИ удалось обнаружить вариант, когда за некое время в жидкости возникает вихрь, где скорость движения достигает бесконечности. Однако ничто не может двигаться с бесконечной скоростью. Таким образом, исследователи на конкретном примере показали, что существуют ситуации, когда уравнения Навье — Стокса дают абсурдный результат.

В OpenAI добились такого результата в ходе 88-часового «штурма», предпринятого примерно 10 000 агентами искусственного интеллекта. Всего они отправили около 4,9 млн сообщений и сгенерировали примерно 300 млрд выходных токенов, а при решении задачи Навье — Стокса — 2,7 млн сообщений и использовали около 130 млрд токенов. При этом разные группы исследовали свои подходы, а затем наиболее полезные идеи объединялись через ИИ-агента Codex. В OpenAI заявили, что использовали внутреннюю модель «значительно способнее» системы Astra — ИИ, который в компании уже называют обладающим признаками общего искусственного интеллекта (AGI). Обучение новой модели началось 28 августа.

— отметил главный научный сотрудник OpenAI Якуб Пачоцки на пресс-мероприятии компании. — Сейчас ситуация иная… Это результат длительной работы OpenAI, направленной на решение одной из “проблем тысячелетия”. Это оценка системы, обладающей интеллектом общего назначения. К таким темпам прогресса следует отнестись со всей серьезностью».

Изначально в OpenAI нацелились на все шесть нерешенных математических задач. Однако вскоре стало ясно, что наиболее перспективной целью является именно задача Навье — Стокса. Сначала ИИ-агенты OpenAI начали с ее вариации — уравнений Эйлера для идеальной жидкости без вязкости. Спустя 50 часов работы 1000 агентов нашли решение. Тогда в OpenAI бросили на решение полной задачи Навье — Стокса уже 10 000 агентов. Оно было найдено, а на следующий день его формализовали на языке программирования Lean, который позволяет автоматически проверять математические доказательства.

Этот проект оказался значительно дороже прежних математических экспериментов OpenAI. В ходе предыдущего этапа исследований система Astra совершила 10 прорывов в других математических задачах, а на ее работу потратили около $2000. Работа над задачей Навье — Стокса обошлась значительно дороже: по словам директора по исследованиям OpenAI Марка Чена, речь идет о «миллионах долларов».

Эта оценка совпадает с расчетами независимых исследователей. «Если бы кто-то решил воспользоваться инструментами OpenAI по розничным ценам, это обошлось бы примерно в $6 млн. Поскольку у OpenAI уже есть готовая модель и все необходимые ресурсы, затраты на вычислительные мощности для выполнения этой задачи составили около $1 млн — что, как ни забавно, в точности соответствует размеру премии за решение “задачи тысячелетия”», — говорит Картик Дурайсами из Мичиганского университета, который готовит специальный проект по оценке вычислительных ресурсов.

Уже в начале октября OpenAI объявила о решении сотен математических задач. Среди них оказалась и «квазигипотеза Римана», которая остается нерешенной уже более 160 лет.

Кроме того, компания заявила, что получила доказательства других известных математических гипотез.

При этом в OpenAI предупредили, что материалы находятся на разных стадиях проверки, и не все прошли формализацию Lean — процесс, в ходе которого математические рассуждения переводятся с человеческого языка на язык символов и логических правил — поэтому могут содержать ошибки.

Работой в области математики занимается не только OpenAI. Так, в Anthropic в сентябре объявили о формализации доказательства Великой теоремы Ферма в Lean. Хотя само доказательство давно было известно, но ИИ-модель написала миллионы строк для ее формализации.

Захватывающая математика

Решение задачи Навье — Стокса спровоцировало мощную реакцию среди математиков. Группа лауреатов престижной премии Филдса опубликовала совместное заявление с критикой подхода ИИ-гигантов. Компанию обвинили в том, что она подходит к доказательствам гипотез «как к бенчмарку». «Цели ИИ-компаний и цели математического сообщества глубоко расходятся. Мы рассматриваем это как частный случай более широкой проблемы согласования интересов, затрагивающей и другие научные и творческие сферы, а также общество в целом», — говорится в обращении.

Доктор физико-математических наук, сотрудник математического института на условиях анонимности объясняет, что письмо лауреатов премии Филдса стало логичным ответом на демонстрацию силы со стороны OpenAI. — Внезапно оказалось, что больше нет честной игры, старые правила перестали работать, а времени на выработку новых правил нам не дали, — говорит сотрудник института. — Математики всего мира демотивированы и находятся в растерянности, их планы разрушены, задачи, на которые потратили годы, были решены с помощью ИИ, будущее туманно.

Письмо объясняет, что математическому сообществу может быть нанесен непоправимый вред и что нужно предпринимать усилия, чтобы этот вред минимизировать.

В опубликованной в июне «Лейденской декларации об искусственном интеллекте и математике», которую подписали более 4000 ученых, также говорится, что достижения в области ИИ ставят под угрозу «характерные ценности» исследований, «зачастую таким образом, что это непропорционально сильно сказывается на студентах и начинающих математиках, а значит, и на долгосрочном будущем самой дисциплины». На этом фоне отмечается, что независимым математикам становится всё труднее игнорировать разрыв в доступных ресурсах: мало кто из исследователей способен привлечь миллионы долларов на создание вычислительных мощностей.

Авторы заявления подняли еще один важный вопрос: модели, которые обучали на работах ученых, часто выдают результаты без ссылок на эти данные, а компании, которые объявляют о новых решениях, упрощают их описания ради популяризации темы, что влияет на восприятие вклада тех, кто годами работал над задачами.

Отдельный вопрос возник в связи с тем, кому именно принадлежат заслуги в получении решения. Математик Тристан Бакмастер из Нью-Йоркского университета и исследователь из компании Anthropic Левент Альпёге за последние месяцы добились значительного прогресса в задаче Навье — Стокса, используя инструменты ИИ от OpenAI и Anthropic. Однако OpenAI предприняла масштабные усилия, направив на решение задачи вычислительные ресурсы стоимостью в миллионы долларов. В компании утверждают, что намеренно не использовали последние наработки Бакмастера и Альпёге, однако первый выступил с публичными заявлениями, ставящими это утверждение под сомнение. Ученый отметил, что OpenAI предлагала сохранить его авторство в обмен на то, что он упомянет в работе только инструменты компании и исключит имя Альпёге. При этом даже в посте компании, посвященном решению уравнений Навье — Стокса, не исключается, что она использовала наработки исследователей: «Хотя это маловероятно, мы не можем исключить, что обезличенные данные, полученные в процессе использования нашими продуктами [Бакмастером и Альпёге], могли способствовать совершенствованию наших моделей».

Среди математиков возникли и другие дискуссии. Они задаются вопросами: если машины забирают задачи, которые использовались для оценки академического успеха, то по каким критериям рассматривать научную ценность и как правильно организовывать научный процесс?

Наконец, самым глобальным стало обсуждение целей фундаментальной математики в эпоху ИИ. Участники дискуссии говорят, что ценность науки кроется не столько в доказательствах теорем, сколько в самом процессе поиска и познания, а также в передаче академических знаний. Доктор физико-математических наук отмечает:

Кажется, что глубина понимания математики из-за этого может сильно пострадать.

— Сейчас очень много дискуссий на тему того, что математика умирает, и мне они кажутся вредными, — возражает научный сотрудник CNRS (Centre national de la recherche scientifique — Национальный центр научных исследований Франции), пожелавший не раскрывать своего имени. — Гораздо меньше рассуждений о том, почему вообще математика важна. По моему мнению, основная ценность этой науки — это сами математики, сообщество. И технология не разрушает его, хотя и ставит перед выбором, предлагает соблазны. Я думаю, математикам предстоит ответить на важнейшие вопросы, например: нужно ли теперь разбираться и деталях? И тогда придет понимание того, чем им заниматься.

«Этот темп — безумие»

На фоне публикаций OpenAI свои позиции относительно ИИ изменили даже те математики, которые изначально продвигали и поддерживали технологию. Так, профессор UCLA и лауреат Филдсовской премии Теренс Тао, который сотрудничал с OpenAI, выступил с лекцией, в которой признал, что математическое сообщество столкнулось с хаосом. По его словам, журналы и базы данных оказались переполнены ИИ-статьями без объяснений, а система рецензирования рушится под весом «ИИ-мусора». Тао отметил: «Нам нужно замедлиться. Этот темп — безумие». Он подчеркнул, что новые задачи рождаются в процессе медленного обдумывания, и именно этот процесс сейчас разрушается.

Отдельные ученые пока не определились относительно того, какое влияние ИИ окажет на математику. Обладатель премии Филдса Тимоти Гауэрс в августе написал пост «What sort of maths are LLMs good at?». В нем ученый анализирует сильные и слабые стороны ИИ, а также признает, что невозможно однозначно ответить на вопрос, полезна ли технология для науки. По его словам, человек-математик может решать одну задачу годами и добиться результата, а ИИ-модель может взять несколько задач за сутки, но если не осилила одну из них, то не сделает этого и за год. Это касается задач, где требуется не просто перебор вариантов, а глубокий концептуальный прорыв или интуитивное отсечение тупиковых вариантов.

Есть и третья позиция. Ее сторонники полагают, что влияние ИИ не убьет, а преобразует работу математиков. Профессор Университета Карнеги По‑Шен Ло, например, считает, что развитие ИИ приведет к появлению такого количества процессов, за которыми необходимо следить, что это создаст даже избыточный спрос на высококвалифицированных специалистов, и работы никто не лишится. При этом он уверен, что лаборатории ИИ самостоятельно снизят темпы разработки технологии из-за растущих рисков, либо их вынудят к этому инциденты с серьезными последствиями, когда люди не смогут контролировать действия ИИ. Математик призвал своих коллег задуматься о том, чтобы перенаправить свои профессиональные навыки на решение реальных проблем, в том числе государственных и общественных. По его мнению, поиск логически безупречных и одновременно выгодных для всех решений, который составляет суть математического решения, — это идеальный путь для политика или государственного деятеля.

Аналогичной позиции придерживается и научный сотрудник CNRS. Он считает, что в математике могут появиться новые роли, например, журналам понадобится больше рецензентов статей, если их начнут выпускать при помощи ИИ. Эксперт добавляет, что широкая доступность ИИ-инструментов с открытым исходным кодом, напротив, сделала бы науку более демократизированной, уравняв доступ к знаниям и ресурсам, а также позволив заглянуть в непрофильную область. Он не согласен с тем, что потребность в профессиональных математиках снизится:

— При приеме на работу традиционные навыки все равно будут важнее, чем работа с ИИ. Чтобы даже разобраться в доказательствах задач, нужны специалисты, которые реально в этом понимают. Нужно также и учить людей работать с технологиями. Чем больше таких инициатив будет, тем больше может появиться здоровых решений и форматов исследовательской работы.

Научный сотрудник CNRS также отмечает, что реакция в сообществе на публикации OpenAI разная, и многое зависит от устойчивости позиции математиков:

— Однако и до этого равенства в науке не было, а структура сообщества не была идеальной. Просто сейчас, на фоне решения задач ИИ, эти вопросы встали ребром.

По его словам, многие вообще покидают науку и идут в направление AI Safety.

— Именно в моем кругу не так много пессимистов, но есть те, для кого математика и технологии — это вещи, далеко стоящие друг от друга, — говорит научный сотрудник. — Это отчасти и поколенческая история.

Однако такой уровень концентрации доступен не всем, а кому-то ИИ может быть полезен, особенно если какая-то задача вызывает сложности, и это затормаживает личный прогресс. Лично мне ИИ полезен. Я не ставлю перед собой цель решить большую задачу. Но есть те, для кого именно это выступает основным стимулом. Для кого-то в математике был важен именно образ героя, который борется и решает задачи, но теперь это время прошло. Мне же кажется, что образы героя — токсичны, они могут заряжать эго, но это не работает во благо сообщества.

Доктор физико-математических наук соглашается, что ИИ может быть полезен в работе:

— Это, безусловно, очень мощный и удобный инструмент, который облегчает все формы работы: чтение чужих работ, написание собственных, подготовку докладов, размышление над задачами. ИИ отлично справляется с тем, чтобы применить указанный ему метод к задаче. Это экономит огромное количество усилий. Однако есть большой соблазн поручить ИИ думать над задачей вместо тебя.

По его словам, взаимодействие математиков и ИИ может быть эффективным, так как даже OpenAI признается, что ей удалось решить не все задачи.

Новые правила 

В настоящее время сообщество делает первые шаги к тому, чтобы адаптироваться к эпохе ИИ. Авторы «Лейденской декларации» рекомендуют математикам раскрывать информацию об использовании инструментов ИИ, продолжать указывать авторов-людей, а также внедрять в работу только те инструменты и работать с теми компаниями, которые соответствуют или разделяют ценности ученых. Политикам же рекомендуется «защищать права авторов», «регулировать отрасль искусственного интеллекта» и «инвестировать в общественную вычислительную инфраструктуру».

Доктор физико-математических наук выделяет еще одну проблему, которую предстоит решить сообществу:

— Я думаю, что надо сильно повысить требования к качеству математических текстов. Доказательства должны быть максимально упрощены и написаны в максимально доступном для понимания виде. ИИ пока порождает очень сложные доказательства, в которых много лишнего. Нужно эти доказательства очищать и приводить к доступному виду. Так мы сохраним хотя бы то, что математика останется понятной людям.

Сама OpenAI 21 сентября объявила о создании Advisory Group on Mathematics and Artificial Intelligence при Institute for Advanced Study в Принстоне. В группу вошли математики из ENS-PSL, IAS, Кембриджа, EPFL, Беркли, Оксфорда, Стэнфорда и других институтов. Группа будет оценивать значимость новых результатов, обсуждать их публикацию и соответствие академическим нормам, а также разрабатывать подходы к использованию ИИ в математических исследованиях и обучении. При этом она работает независимо от OpenAI. В октябре Advisory Group on Mathematics and Artificial Intelligence уже опубликовала рекомендации для ИИ-лабораторий. Она предлагает указывать модель, промпты, вычислительные затраты и статус формальной проверки решаемой задачи, а также не использовать такие решения как рекламу ИИ и размещать материалы в научных репозиториях.

Научный сотрудник CNRS считает такое публичное противостояние полезным, так как оно позволит сдерживать аппетиты ИИ-компаний:

— Иначе нам грозит тотальная инфляция математического знания, и возникнет дезориентация, когда это знание потеряет смысл.

Американский профессор математики в Северо-Западном университете Бенджамин Антио уже запустил вариант сервиса препринтов научных работ arXiv для ИИ-сгенерированных статей. Ученые выкладывают на такие ресурсы черновики своих статей до того, как их опубликуют в официальных журналах. Это позволяет закрепить первенство в теме, а также обсудить возможные пробелы в материале до выхода итоговой версии. В Hexagon не проводится научное рецензирование, но каждый загруженный материал проходит автоматическую проверку, а на этапе бета-тестирования — также проверку модератором-человеком.

В «Лейденской декларации» отмечалась важность активного вмешательства профессиональных математических сообществ в работу с ИИ-инструментами. В октябре фонд Simons Foundation — крупная американская частная филантропическая организация — уже анонсировал ряд новых инициатив для помощи ученым. Anthropic и OpenAI выделят $15 млн на семинары и инициативы, которые помогут исследователям оценивать научные результаты, полученные с помощью ИИ, осваивать новые инструменты, обмениваться мнениями и вырабатывать общие стандарты использования технологий. Компании также предоставят исследователям доступ к инструментам искусственного интеллекта и вычислительным мощностям. Эта помощь распространится не только на математику, но и на фундаментальные науки в целом. Распределение грантов и ресурсов будет опираться на мнение самого научного сообщества.

— Мне кажется, что сообщество должно выработать здоровый сценарий работы с ИИ. Действительно, способности технологии растут быстро, и в этой ситуации важно осознать ценность самой математики. Для меня она кроется в способности видеть красоту в абстракции. Но если по естественным причинам окажется, что человечеству это неважно, то будет что-то другое. Или же математикам придется находить красоту в задачах, решаемых машинами. В любом случае ограничить число решений ИИ не получится. Вообще любые инициативы по запрету обречены на провал. Людям нужно принять новые правила: указывать ИИ, если использовали его в работе, не осуждать тех, кто применяет технологию и т. д., — подытоживает научный сотрудник CNRS.