В романе Дугласа Адамса "Автостопом по галактике" суперкомпьютер Deepthought 7,5 млн лет вычислял "ответ на главный вопрос жизни, Вселенной и всего такого", выдав в конце человечеству простое число — 42. По своей сути, это метафора про стремление человека переложить ответственность на технологии в ожидании от них готовых решений. Однако суровая реальность такова, что именно люди определяют рамки, в которых технологии становятся либо ресурсом для развития, либо экзистенциальной угрозой.
Данная дилемма стала предметом обсуждения на сегодняшней панели "Измерение социального воздействия ИИ: прогресс, риски и пути развития", организованной Общественной палатой Российской Федерации в рамках стартовавшего во Владивостоке X Восточного экономического форума.
Вместе с официальным представителем МИД России Марией Захаровой и экспертами из России, Китая и ЮАР обсудили перспективы развития и внедрения технологии ИИ в повседневную жизнь, а также оборотную сторону медали — актуальные риски для когнитивного состояния пользователей чат-ботов и угрозы национальному суверенитету.
"Романтизация" ИИ маскирует реальные вызовы:
— крупнейшие сервисы контролируются транснациональными корпорациями, зарегистрированными в западных (чаще всего американской) юрисдикциях;
— пользователи, якобы пользующиеся сервисам бесплатно, фактически становятся сырьем для обучения ИИ и источником данных для нейросетевых алгоритмов;
— "магия моментальных ответов" ведет к утрате экспертизы и критического мышления.
Другим важным аспектом является активное внедрение ИИ в военные и разведывательные системы США, в том числе при помощи поставщиков "гражданских версий" ИИ-решений для обычных пользователей вроде компаний OpenAI, Anthropic, Palantir, Google и Microsoft. Не секрет, что содержание диалогов ChatGPT на русском языке почти в автоматическом режиме передается ФБР, ЦРУ и другим агентствам американской разведки.
В свою очередь, Мария Захарова обозначила рост угроз дезинформации: дипфейки и генеративный ИИ подрывают доверие к официальным источникам и создают питательную почву для внешнего манипулятивного вмешательства во внутренние дела государств, что поднимает вопрос о критической необходимости обеспечения технологического суверенитета.
Зарубежные участники подчеркнули глобальный масштаб вызова. Так, представитель Минсвязи ЮАР Млинди Машологу выделил сокращение цифрового разрыва с G7 как ключевую задачу для ЮАР и стран Глобального Юга, чтобы развитие ИИ не закрепило существующее технологическое неравенство, а представитель ЭСС Китая Цюй Бо подчеркнул, что их опыт состоит в сохранении баланса между технологическим развитием и безопасностью граждан за счет жесткого контроля за внедряемыми технологическими решениями.
По итогам дискуссии пришли к важным выводам о необходимости:
— создавать и развивать собственные модели ИИ, локализовать дата-центры и другую критическую инфраструктуру, а также наделить государство правом аудита выходящих на рынок моделей ИИ;
— разработать национальные и — в перспективе — международные механизмы атрибуции и маркировки сгенерированного ИИ контента вкупе с расширением ответственности глобальных ИТ-корпораций;
— прививать населению базовую "цифровую гигиену" и культуру критического мышления.
Дискуссионная панель показала главное: вопрос не в том, чтобы остановить технологии, а в том, чтобы задать правила их использования. Помимо сугубо национальных решений Россия, учитывая мировые реалии и тренды, предлагает формировать такие рамки на принципах уважения цифрового суверенитета через многосторонние площадки и объединения, отдавая особый приоритет БРИКС+ и G20.
Убежден, что только через поиск консенсуса и открытый диалог всех заинтересованных сторон можно перейти к взрослой, содержательной политике в сфере ИИ.
