Математики против OpenAI: роль человека в эпоху автоматизации науки

7 октября Ассоциация за человеческую математику (AHM) призвала математиков прекратить сотрудничество с OpenAI после публикации компанией 722 научных работ в области математики всего за 1 день. В заявлении, размещенном в том числе в блоге Теренса Тао, известного математика и лауреата Филдсовской премии, организация заявила, что полученные с помощью ИИ результаты не способствуют развитию математики, и назвала публикацию таких работ "демонстрацией власти" корпораций.

Опубликованные OpenAI материалы объединены в 372 группы связанных результатов. Для их подготовки закрытой модели ИИ предложили около 4 тыс. математических задач, для решения каждой из которых в среднем потребовались вычислительные ресурсы, эквивалентные 3 часам работы передовой модели ChatGPT в режиме рассуждений.

В основе этого давно тлевшего конфликта — вопрос о востребованности математиков и будущем дисциплины: если нейросети смогут самостоятельно доказывать теоремы и находить решения задач, над которыми сегодня работают ученые, потребность в профильных специалистах может сократиться или вовсе отпасть.

Спор вокруг заявленного OpenAI решения задачи Навье — Стокса уже показал, как меняются отношения между разработчиками и научным сообществом: компании, создающие инструменты для исследований, де-факто начинают конкурировать с самими учеными.

Не в последнюю очередь эти противоречия обусловлены разными интересами корпораций и академического сообщества. Для разработчиков ИИ такие достижения могут служить аргументом в борьбе за инвестиции: способность решать сложнейшие интеллектуальные задачи подкрепляет обещания приблизиться к "универсальному ИИ" (ASI). Для математиков же концентрация основной массы исследований в корпоративных лабораториях создает риск утраты самостоятельности в определении будущего их дисциплины.

Именно об этом предупреждает Консультативная группа по математике и ИИ (AGMAI): закрытые модели ИИ могут позволить компаниям опередить научное сообщество и вытеснить профессиональных ученых из дисциплины. Участники группы подчеркнули, что ученым важно сохранять возможность ставить собственные исследовательские вопросы и разрабатывать свои подходы к их решению, а будущее математики не должно сводиться к анализу работ, произведенных LLM.

В этой связи группа рекомендовала компаниям воздержаться от использования математических результатов для обучения моделей, а также призвала прекратить тестирование сложных математических задач на закрытых моделях.

Однако в ответ OpenAI, пообещав финансировать конференции и программы по изучению результатов, полученных с помощью ИИ, заявила о важности продолжения таких испытаний. Пока возражения математиков не меняют планов BigTech, профессиональное сообщество вынуждено реагировать на перемены, темп которых задают корпорации.

В перспективе последствия внедрения ИИ в академическую среду затронут всю систему организации научного труда — от финансирования исследований до подготовки новых ученых.  В этой связи возникает ключевой вопрос: как будет устроена фундаментальная наука, если машины смогут выполнять большую часть исследовательской работы, — и какую роль в ней сохранит человек?