Цифровой Бог Кремниевой долины: как техноэлиты присвоили себе будущее

Сегодня миллиардеры, сделавшие свое состояние на ИТ-технологиях, продают человечеству образ будущего, в котором сверхразумный ИИ (AGI) избавит людей от труда, победит болезни и смерть, обеспечит всеобщее изобилие, а затем поможет расселиться по Вселенной.

Наивный технооптимизм деконструирует астрофизик Адам Беккер в своей книге "Все, везде и сразу". За модными терминами из новой идеологии американских "технобро" — сингулярностью, эффективным альтруизмом, дальним горизонтом планирования и акселерационизмом — он обнаруживает слепую веру в спасение с помощью технологий, которые якобы позволят решить все общественные противоречия.

Самая удобная часть идеологии — "забота о будущих поколениях". Технооптимисты предлагают учитывать интересы людей, которые будут жить через миллионы лет. Поскольку при освоении космоса речь идет о квадриллионах будущих жизней, их предполагаемое благополучие математически перевешивает проблемы ныне живущих, поэтому инвестиции в ИИ и колонизацию других планет оказываются важнее борьбы с бедностью или неравенством.

Это дает технологической элите своего рода моральную индульгенцию: привлечение инвестиций и госконтракты становятся не способом увеличения их состояния, а подготовкой к спасению цивилизации. Венчурный инвестор Марк Андриссен даже называет замедление ИИ "формой убийства", поскольку AGI "спасет миллионы жизней".

Технологическая сингулярность в новой религии играет роль "конца истории". Изобретатель-футуролог Рэй Курцвейл обещает, что рост вычислительных мощностей приведет к появлению нанороботов, загрузке сознания в компьютер и, в конце концов, победе над смертью — разумеется, научную революцию совершит ИИ.

Культ бесконечного роста закономерно ведет технорелигию за пределы Земли: Джефф Безос мечтает о триллионе людей в космосе, Илон Маск — о "запасной цивилизации" на Марсе. Любое ограничение потребления приравнивается к застою. Между тем при ежегодном росте энергопотребления на 2,3% человечество примерно через 3,7 тыс. лет истощило бы энергию всех звезд наблюдаемой Вселенной — космос не решает проблему, а лишь отодвигает ее горизонт.

Главный риторический прием техноэлит заключается в подмене выбора технологической неизбежностью. Вектор развития ИИ определяется инвестициями, решениями политиков и коммерческими интересами, однако обществу его преподносят как "естественное развитие отрасли".

Пока общество увлеченно спорит о гипотетическом "восстании машин", в тени остаются реальные проблемы: колоссальное энергопотребление дата-центров, сомнительные методы сбора личных данных, кража авторского контента и массовое сокращение рабочих мест.

ИТ-гигантам удобно продавать образ AGI как величайшей — и самой опасной — технологии в истории человечества: чем страшнее придуманная ими угроза, тем больше денег и политического влияния требуют те, кто обещает удержать ее под контролем. Расчет прост: если AGI все равно появится — спорить с его создателями бессмысленно; если без космической экспансии человечество погибнет — любые расходы и жертвы становятся оправданными.

Даже многие технопессимисты остаются внутри созданной "технобро" мифологии: исследователь-трансгуманист Элиезер Юдковский, один из ведущих публичных критиков развития ИИ, считает появление AGI почти неизбежным и ожидает уничтожения человечества. Иными словами, конфликт технооптимистов и алармистов строится на фундаментальном допущении: обе стороны по умолчанию признают возможным создание AGI и спорят о том, окажется ли он благом для человечества.

Безусловно, современные модели ИИ — это отличный инструмент для автоматизации рутины. Однако их реальные возможности бесконечно далеки от футуристических фантазий, которые служат лишь одной цели: выдать бизнес-интересы нескольких корпораций за судьбу человечества.

Пока идеологи технооптимизма высокопарно рассуждают о благе триллионов нерожденных людей будущего, горстка миллиардеров концентрирует в своих руках деньги, инфраструктуру и власть над теми, кто живет прямо сейчас.