Проблема будущего – одна из сквозных проблем научных исследований, религиозных текстов и художественных произведений. Она сопровождала человечество на протяжении всего его существования. Подобный интерес к проблеме будущего обусловлен тем, что без социального прогноза невозможно управление собственной жизнью человека и общества в целом. Более того, «чем шире пространство спрогнозированных вариантов, тем большее пространство для футурологического цивилизационного маневра образуется у человечества» (Андреев, Тузовский, 2023: 7).

Процессы, происходящие в современном цифровом обществе, позволяют констатировать его нестабильность и неопределенность, вызванную ускоряющейся эволюцией и трансформацией цифровых технологий как основы функционирования данного общества. Преимущества развития цифровых технологий и использование их во благо человечества сопровождаются высокой степенью «социальной рискогенности» (Beck, 2009), обусловленной столкновением внешней природной среды и внутренней природы – техносреды (Данилов, 2018). На данный момент цифровое общество находится в состоянии глобального кризиса, затрагивающего его экономическую, социальную и политическую сферы. Цифровые технологии, будучи амбивалентной сущностью, с одной стороны, позволяют обществу преодолеть данный кризис, а с другой – способствуют его усилению. Ускоренная эволюция и трансформация технологий актуализируют вопрос будущего общества, рисков его технологического развития, которые во многом определяют это будущее. Соответственно, в данном контексте с целью минимизации рисков технологического развития цифрового общества становится актуальным «заглянуть в будущее», обратиться к его социальному прогнозу, что будет в определенной степени способствовать идентификации возможных рисков, поскольку социальное прогнозирование, «размышление о будущем – это один из способов планирования будущего, хотя и несколько непривычный» (Урри, 2019: 290).

Одной из форм социального прогнозирования будущего является антиутопия как художественное воображаемое, направленное на выяснение «соотношений внутри триады “человек – цивилизация – общество” с отрицанием возможности реализации утопических идеалов при условии нарушения баланса и гармонии» (Шишкина, 2007: 207). Современный глобальный кризис, охвативший все сферы общества, представляет собой не что иное, как нарушение баланса и гармонии развития цифрового общества. Картина современного цифрового общества «сюжетно» объединяет в себе черты художественных (литературных) антиутопий: угрозу замещения человека искусственным интеллектом (далее – ИИ); угрозу информационной войны, угрозу мировых эпидемий и пандемий; риск применения ядерного, химического и биологического оружия в контексте военного противостояния государств; социальное неравенство, принимающее разные формы, включая цифровое неравенство; тоталитаризм и повсеместный контроль (в т. ч. с использованием цифровых технологий); риск экологической катастрофы и пр.

В данных условиях становится важным не только преодоление глобального кризиса, но и поиск, систематизация причин, которые привели к нему, а также прогноз сбывшихся и сбывающихся рисков технологического развития цифрового общества. На наш взгляд, одним из источников для прогнозирования такого рода рисков являются литературные антиутопии, представляющие собой сферу воображаемого, поскольку только через воображение и инсценирование мирового риска будущая катастрофа становится настоящим, соответственно, «необходимо принять во внимание все возможные, в большей или меньшей степени, невероятные сценарии» (Beck, 2009: 10).

Многие из прогнозов писателей-антиутопистов уже сбылись[1] или продолжают сбываться в контексте современного глобального кризиса, однако, несмотря на растущий интерес к данной проблеме со стороны научного сообщества (см.: Андреев, Тузовский, 2023; Брега, 2009; Демидова, 2020; Филатов, 2014; Халуторных, 2021 и др.), прогностический потенциал литературных антиутопий в аспекте прогнозирования рисков технологического развития цифрового общества до сих пор недооценен, в частности, в разрезе концепции «самосбывающегося (самоисполняющегося) пророчества» Р. Мертона. При этом следует отметить, что существует ряд исследований, в рамках которых антиутопии рассматриваются как результат гносеологического осмысления социальной действительности (Брега, 2009), метод предвидения будущего (Филатов, 2014), социокультурный прогноз развития общества риска (Халуторных, 2021), а также источник образов будущего цифровой эпохи (Андреев, Тузовский, 2023). Несмотря на значимость вклада данных исследований в изучение антиутопий как форм социального прогнозирования будущего, за их пределами находится осмысление прогностического потенциала литературных антиутопий как «самосбывающихся пророчеств» в аспекте прогнозирования рисков технологического развития цифрового общества в контексте глобального кризиса.

Кроме того, в последние годы наблюдается востребованность антиутопий со стороны читающих людей. По данным компании LexisNexis, работающей в сфере информационных услуг, количество упоминаний слов «антиутопия» / «антиутопический» в новостных источниках в 1985 г. составило 5 раз, а в 2018 г. – 25 078 раз (Jones and Paris, 2019). Новый всплеск популярности антиутопий в США пришелся на начало 2017 г. и был связан с избранием президентом Д. Трампа. В этом контексте The New York Times сообщила о резком росте спроса (на 9 500 %) на роман Дж. Оруэлла «1984», в котором описывается тоталитарное общество будущего с повсеместной слежкой за действиями и мыслями населения (Freytas-Tamura, 2017). Повышенный интерес к антиутопиям в последние годы наблюдается и в России. По данным Российской книжной палаты, в первые девять месяцев 2021 года Дж. Оруэлл стал вторым наиболее издаваемым автором в художественной литературе – общий тираж его произведений составил 613,1 тыс. экземпляров (Мисник, 2023), что, на наш взгляд, обусловлено социальными последствиями пандемии коронавируса, а также сопровождающей ее «дезинфодемией» как частью информационной войны, развернувшейся на фоне пандемии.

Безусловно, Дж. Оруэлл в романе «1984» не мог писать про информационную войну, средствами ведения которой являются цифровые технологии. Тем не менее, созданный им образ «Большого брата», который на момент публикации книги в 1949 г. существовал только в творческом воображении автора и считался безумием, является метафорой существующего сегодня и используемого в информационной войне ИИ. Еще один оруэлловский образ – «Министерство правды», которое занималось фальсификацией исторических событий и определяло, что такое «правда», а затем распространяло ее в средствах массовой информации и исторических документах, напоминает не что иное, как фабрику троллей и фабрику фейков, существующие в сегодняшней реальности.

Так, повышенный интерес к антиутопиям со стороны читающих людей в последние несколько лет, на наш взгляд, в первую очередь связан с их желанием «заглянуть в будущее», лучше понять причины глобального кризиса, риски технологического развития общества, найти объяснения происходящим событиям, включая пандемию коронавируса, участившиеся террористические акты и многочисленные военные конфликты, возникающие между разными странами.

С нашей точки зрения, сложный и многомерный характер глобального кризиса усугубляется современными информационными войнами, которые сопровождают события последних нескольких лет. Несмотря на то что сами информационные войны сопровождали человечество в течение всего его существования, высокую степень рискогенности они приобрели сравнительно недавно, в контексте развития и внедрения в данную сферу новых технологий, включая технологии ИИ. Современная информационная война представляет собой информационную войну пятого поколения, характеризующуюся использованием мессенджеров (в частности, Telegram), социальных сетей, а также технологий ИИ (Кужелева-Саган, 2023: 47).

В современной практике информационных войн пятого поколения инфотехнологами используется ИИ с целью а) проведения сетевого анализа «больших данных» для сбора информации «снизу» (например, в формате челленджей в социальных сетях и мессенджерах); б) сетевого профайлинга целевых аудиторий; в) создания и распространения интерактивного генеративного контента дезинформационного содержания в виде текстового контента, создаваемого технологиями, подобными ChatGPT, и дипфейков разного характера (фото, аудио, видео).

Все это свидетельствует о том, что высокотехнологичная информационная война, инструментальную базу которой составляют технологии ИИ, является одной из ключевых угроз технологического развития цифрового общества. Следовательно, актуальным становится рассмотрение литературных антиутопий как «самосбывающихся пророчеств» о рисках применения технологий ИИ в ее контексте.

На основе анализа более 30 литературных антиутопий доцифровой и цифровой эпохи нами были выделены две группы рисков разных уровней и масштабов, связанных с развитием технологий ИИ в целом и их внедрением в сферу информационной войны. Несмотря на то что мы разделили данные риски на две группы, большинство из них тесно связаны друг с другом. В выборку вошли антиутопии доцифровой (М. Шелли «Франкенштейн, или Современный Прометей» (1818); У. Гроув «Крушение мира» (1889); К. Чапек “R.U.R.” (“Rossum's Universal Robots”) (1920); А. Азимов «Хоровод (Три закона робототехники)» (1942); Дж. Уильямсон «Гуманоиды» (1948) и др.) и цифровой (Р. Шекли «Страж-птица» (1953); Ф. Герберт «Дюна» (1963–1965); Х. Эллисон «У меня нет рта, но я должен кричать» (1967); Б. Олдисс «Суперигрушек хватает на все лето» (1969); У. Тевис «Пересмешник» (1980); И. Макдональд «Река Богов» (2004);  В. Виндж «Конец радуг» (2006); В. Пелевин “S.N.U.F.F.” (2011); Н. Стивенсон «Падение, или Додж в Аду» (2011);  М. Мейер «Киберзолушка» (2012); Ц. Збешховский «Всесожжение», (2013); М.-У. Клинг «Страна качества» (2019) и пр.) эпох, содержащие описание прообразов и образов ИИ и информационной войны. Безусловно, во многих из них не было прямого упоминания словосочетаний «искусственный интеллект» и «информационная война», тем не менее, через аллюзии и метафоры, которые использовали писатели-антиутописты прошлого и настоящего, так или иначе считываются указания на данные явления. Необходимо отметить, что описание рисков развития технологий ИИ и их внедрение в сферу информационной войны не дано в произведениях в конкретном месте, а является органической частью сюжета и элементом воображаемого мира писателя.

К первой группе относятся риски, угрожающие обществу не только в контексте внедрения ИИ в сферу информационных войн, но и в целом связанные с применением технологий ИИ в разных областях функционирования общества. Среди них можно выделить следующие:

Риск потери контроля над ИИ (А. Кларк «Космическая одиссея» (1968); М. Шелли «Франкенштейн, или Современный Прометей» (1818); У. Гроув «Крушение мира» (1889); К. Чапек “R.U.R.” (1920); А. Азимов «Хоровод (Три закона робототехники)» (1942); А. Азимов «Роботы и Империя» (1986); Дж. Уильямсон «Гуманоиды» (1948); Р. Шекли «Страж-птица» (1953); Ф. Г. «Дюна» (1963–1965); Х. Эллисон «У меня нет рта, но я должен кричать» (1967); Б. Олдисс «Суперигрушек хватает на все лето» (1969); У. Тевис «Пересмешник» (1980); И. Макдональд «Река Богов» (2004); М. Мейер «Киберзолушка» (2012) и пр.).

Риск появления самовоспроизводящихся машин (У. Гроув «Крушение мира» (1889); К. Чапек “R.U.R.” (1920); И. Макдональд «Река Богов» (2004) и др.).

Риск тоталитаризма (Т. фон Харбоу «Метрополис» (1925); Б. Олдисс «Суперигрушек хватает на все лето» (1969); А. Зиновьев «Глобальный человейник» (1997); В. Пелевин “S.N.U.F.F.” (2011) и др.).

Риск социального неравенства (Г. Уэллс «Машина времени» (1895); К. Чапек “R.U.R.” (1920); Т. фон Харбоу «Метрополис» (1925); Ф. Дик «Мечтают ли андроиды об электроовцах?» (1968); Н. Стивенсон «Алмазный век, или Букварь для благородных девиц» (1995); А. Зиновьев «Глобальный человейник» (1997); В. Пелевин “S.N.U.F.F” (2011) и др.).

Риск цифрового неравенства (Н. Стивенсон «Алмазный век, или Букварь для благородных девиц» (1995) и др.).

Риск борьбы за технологический суверенитет (И. Бэнкс «Культура, Эксцессия» (1996); Х. Эллисон «У меня нет рта, но я должен кричать» (1967) и др.).

Вторая группа рисков связана с информационными войнами и применением ИИ в данной сфере. Риски этой группы описаны писателями-антиутопистами преимущественно цифровой эпохи за несколько лет до масштабного использования обозначенных технологий в практике информационной войны периода пандемии коронавируса, а также инфовойн, сопровождающих СВО на Украине, военный конфликт между сектором Газа и Израилем.

Ко второй группе рисков можно отнести следующие:

Риск наступления эпохи постправды[2] (В. Виндж «Конец радуг» (2006); В. Пелевин “S.N.U.F.F.” (2011); Н. Стивенсон «Падение, или Додж в Аду» (2011);  М. Мейер «Киберзолушка» (2012); Ц. Збешховский «Всесожжение», (2013); М.-У. Клинг «Страна качества» (2019) и пр.).

В романе-антиутопии «Падение, или Додж в Аду» Н. Стивенсон демонстрирует исполнение этого риска на примере ядерной террористической атаки на американский город Моав, которой не было в реальности. Сценой для постановки ядерного взрыва стало информационное пространство. «Вброс» информации об ядерном взрыве в разные социальные сети повлек за собой «миллионократные перепосты» (Стивенсон, 2019: 120). Новостные каналы за отсутствием какой-либо определенной информации с места катастрофы распространяли непроверенную информацию, преобразуя ее в новые версии дезинформации (Стивенсон, 2019: 121). Так намеренная мистификация с высоким уровнем технологической подготовки заставила мир поверить в ядерную атаку. Несмотря на скорое разоблачение этого фейка благодаря действиям одного из персонажей – Корваллиса Кавасаки, директора по научным исследованиям в ОАО «Лайке» – доверие со стороны населения к СМИ упало.

Риск наступления эпохи постправды представляет собой сбывшееся «исполнившееся» пророчество – эпоха постправды наступила в 2020–2021 гг. вместе с пандемией коронавируса и сопровождающей ее «дезинфодемией», когда для распространения дезинформации о коронавирусе использовались в том числе технологии ИИ.

Данный риск, в свою очередь, связан со следующими рисками, которые также представляют собой элемент воображаемого мира обозначенных выше писателей-антиутопистов:

Риск превращения данных пользователей социальных сетей, мессенджеров в товар

Прообразом обозначенного риска так или иначе может являться описанный В. Пелевиным в романе “S.N.U.F.F.” продаваемый контент, предназначенный для потребителей верхнего лучшего мира – Бизантиума. Материалом для контента служат видео, герои которых – жители нижнего мира – Уркаины. С целью получения подобных видео специальные служащие верхнего мира каждый год прилетают в Уркаину, организуют войну, чтобы заснять ее на видеокамеру, а затем продать этот контент (Пелевин, 2011).

В реальном мире данные пользователей социальных сетей и мессенджеров продаются не только крупным корпорациям с целью настройки таргетированных рекламных объявлений, ориентированных на продажу конкретных товаров или услуг, но в том числе и акторам информационных войн с целью адресного распространения информации и дезинформации.

Риск персонализации дезинформационного контента на основе полученных данных пользователей из социальных сетей и мессенджеров

Ц. Збешховский в романе «Всесожжение» уделяет достаточно большое внимание технологиям ИИ. Несмотря на то что автор напрямую не говорит о риске персонализации дезинформационного контента на основе полученных данных пользователей, тем не менее, этот подтекст считывается, когда он говорит о том, что «по данным можно составить прекрасные профили» (Збешховский, 2019: 94). На наш взгляд, Ц. Збешковский описал не что иное, как профайлинг целевых аудиторий, который используется в современной информационной войне пятого поколения для дальнейшей персонализации дезинформационного контента.

Так, в контексте информационной войны пятого поколения, данный риск исполнился. Технологии ИИ позволяют не только масштабно создавать мультимедийный контент (интерактивный генеративный контент (ИГК)), но и адаптировать его к конкретным пользователям, исходя из их интересов.

Риск влияния на принятие решений, выбора идеологической позиции в реальном мире через фильтрацию информационных потоков

В антиутопии М.-У Клинга «Страна качества 2.0» одним из центральных событий является так называемая «Третья мировая война» между шестьюдесятью четырьмя странами, которую «автоматизированные вооруженные силы вели как флэш-войну и победили в течение восьми часов и шестнадцати минут» (Клинг, 2022: 87). Военные действия сопровождала информационная война, однако, благодаря фильтрации определенным образом информационных потоков, не все население было о ней информировано, в том числе и главный герой сатирической антиутопии – Петер Безработный, поскольку «фильтры решили, что такой исторический муравьиный выпад, как Третья мировая война его не интересует. Вместо этого он смотрел бесконечно длинный рассказ о том, как младший сын Конрада Повара состоит сейчас в отношениях с актрисой, которая на сорок один год старше его и которая пару десятков лет тому назад сыграла главную роль в фильме “Сьюзи и роботы”» (курсив наш. – Е. В.) (Клинг, 2022: 100-101).

В другой антиутопии американского писателя В. Винджа – «Конец радуг» описывается технология под названием «Лучше Ты Мне Поверь» (ЛТМП). ЛТМП – это не только технология ментального контроля над сознанием населения, но и инструмент влияния на принятие решений и выбор определенной идеологической позиции. Несмотря на то, что В. Виндж не говорит о фильтрации информационных потоков как таковых, тем не менее, стоит понимать, что благодаря ЛТМП происходит отбор и «доставка» определенной информации, релевантной интересам государства и террористических группировок, в воображаемом мире, созданном В. Винджем. По мнению автора, ЛТМП – «не конец всего; напротив, в нужных руках она являет единственный инструмент разрешения современного парадокса, который позволит укротить человеческую креативность и не разрушить при этом весь мир» (Виндж, 2019: 11).

Риск влияния на принятие решений, выбор идеологической позиции в реальном мире через фильтрацию информационных потоков также исполнился в информационной войне пятого поколения. Фильтрация информационных потоков алгоритмами ИИ осуществляется на основе данных пользователей в социальных сетях и мессенджерах. Вокруг человека на основе его интересов, подписок формируется «информационный пузырь», который может быть представлен соответствующими контентными рекомендациями социальных сетей и персонализированными сообщениями, содержащими в себе паттерны определенного мышления и поведения.

Риск цифрового клонирования

В обозначенной выше антиутопии М.-У Клинга «Страна качества 2.0» в контексте «Третьей мировой войны» и выборов президента Страны Качества председатель «Партии прогресса» и кандидат в президенты – Тони Партийный Босс создает дипфейк со своим участием, в котором демонстрируется его разговор со старым седым человеком в костюме. В поддельном видео Тони говорит, что «женщины, “бесполезные” и весь сброд мигрантов, действительно верят, что я для них что-то сделаю. Но не беспокойтесь. Конечно, мне нужны только их голоса. Считайте меня своего рода крысоловом» (Клинг, 2022: 184). При этом председатель «Партии прогресса» отмечает, что сеть переполнена подобного рода дипфейками, которые многим кажутся правдой.

Н. Стивенсон в романе «Падение, или Додж в Аду» также не обошел стороной риск появления дипфейков как характерной черты эпохи постправды. Распространяемое в социальных сетях видео ядерного взрыва в Моаве представляет собой не что иное, как дипфейк (Стивенсон, 2019).

Цифровое клонирование в информационной войне можно считать исполнившимся пророчеством. Дипфейки позволяют имитировать не только внешний вид человека, но и его голос. Цель применения данной технологии в информационной войне – фальсификация приказов, «посев смуты», подрыв народной поддержки, поляризация общества, разделение союзников, дискредитация лидеров (Science & Tech Spotlight, 2020).

Таким образом, на наш взгляд, потенциал литературных антиутопий для прогнозирования рисков технологического развития цифрового общества в контексте глобального кризиса, включая информационную войну пятого поколения, заключается в том, что они позволяют не только обозначить риски, но и, будучи «самосбывающимися пророчествами», репрезентировать возможные и сбывающиеся последствия технологического развития цифрового общества через художественные образы, что, в свою очередь, побуждает читающих людей задуматься о том, как предотвратить или свести к минимуму серьезные риски для жизни общества, вызываемые технологиями, которые оно создало.

Автор полагает, что проблема, решаемая в статье, является в определенной степени постановочной, а проведенный анализ текстов литературных антиутопий на предмет выявления рисков применения ИИ в современной информационной войне носит экспериментальный характер. Выявленный и продемонстрированный на примере информационной войны пятого поколения потенциал антиутопий как «самосбывающихся пророчеств» может стать отправной точкой для выявления другого рода рисков технологического развития цифрового общества в контексте глобального кризиса, что в будущем может стать основой для разработки соответствующих реактивных и превентивных мер в социально-политической, экономической и культурной сфере. Определение подобного рода рисков – задача дальнейших исследований.