Больше чем инструмент: как ИИ меняет наше мышление

Тезис о том, что ИИ является просто инструментом, качество работы которого зависит от пользователя, служит удобной защитой от критики современного BigTech. В основе этого довода лежит вера в "нейтральность технологий": считается, что сервисы на базе ИИ лишь выполняют команды человека.

Однако на деле нейросети представляют собой комплексную среду, которая постепенно "поглощает пользователя". Вместо того чтобы просто ускорять выполнение команд, ИИ незаметно воздействует на человека — меняет его восприятие, перестраивает привычки и очерчивает границы мышления еще до того, как он приступил к решению задачи.

Как среда формирует мысли

Исследователь Майкл Сакасас в эссе "Your AI Is Not a Tool" разграничивает орудие труда и рабочее окружение, внутри которого действует человек. Если условный молоток можно отложить после работы, то со смартфоном это так не работает: возможность ответить в любую минуту постепенно превратилась в ожидание постоянной доступности, поэтому даже с выключенным телефоном человек вынужден считаться с изменившимися правилами общения.

Похожим образом ИИ меняет условия, в которых формируется личное мнение: чат-бот способен предложить идею еще до того, как пользователь сформулирует собственную позицию, — после чего человеку чаще всего остается лишь выбирать из набора предложенных ему опций.

Это наглядно показала серия экспериментов с участием более чем 2,5 тыс. человек. В первом эксперименте участники писали о том, нужны ли школам стандартизированные тесты. Одним ИИ подсказывал аргументы в пользу тестов прямо по ходу работы, другим похожие доводы показали списком перед началом. После задания первая группа в среднем оказалась на 0,24 балла ближе к позиции ИИ. Во втором эксперименте исследователи выяснили, что предупреждение о предвзятости подсказок не ослабляло влияние ИИ на взгляды участников.

Выбор из готового

Исследовательница Гронингенского университета Наталия Лаба обнаруживает ту же механику в работе ИИ-генераторов изображений вроде Midjourney. Разработчики позиционируют сервис следующим образом: у человека есть идея, но не хватает времени или навыков для ее воплощения, — а затем предлагают снять это ограничение с помощью ИИ, приучая оценивать творческий процесс по скорости получения результата.

Однако в творческом процессе часто задумка меняется в ходе работы. Генератор же предлагает пропустить этот этап и сразу перейти к отбору из готовых вариантов, характер которых заранее определен данными, на которых училась нейросеть, и настройками модели. Именно поэтому Лаба сравнивает такой процесс с раскраской по номерам: пользователь волен выбирать цвета, однако контур картинки для него уже нарисован.

Подмена ответственности

Сравнение ИИ с инструментом позволяет корпорациям переложить ответственность за последствия на пользователя, хотя правила отбора и подачи вариантов задают сами разработчики. В этой логике дискуссия об этических стандартах для ИИ также сводится к техническому вопросу "безопасного внедрения технологии", вытесняя на второй план более важную дискуссию — какие задачи в принципе можно доверять ИИ.

Точно так же BigTech подходит к созданию искусственного сверхинтеллекта (AGI): пока эксперты обсуждают, на что он однажды якобы будет способен, на второй план уходят вопросы о том, сколько энергии сегодня потребляют дата-центры и на каких условиях компании используют авторские материалы для обучения своих моделей.

Чтобы противостоять инерции такой среды, Сакасас предлагает развивать "дисциплину восприятия" — привычку сверять выводы с собственным опытом и обсуждать их с другими людьми. На практике это значит, что еще до внедрения ИИ необходимо определить границы автоматизации.

В противном случае свобода мысли незаметно сводится к свободе выбора из заранее составленных вариантов, своего рода опасной иллюзии автономии: даже споря с ИИ и отклоняя его подсказки, человек продолжает двигаться в заданной им системе координат — искренне веря, что пришел к этим выводам своим умом.