На пороге нового рабства: в идеальном "цифровом" государстве слежка не нужна

Недавно, выступая в программе ВВС «Панорама» президент компании Microsoft Брэд Смит предупредил, что жизнь, изображенная в книге Джорджа Оруэлла «1984», «может стать реальностью в 2024 году», если законодатели не защитят общество от искусственного интеллекта.

Не секрет, что Китай является сегодня одним из главных игроков в сфере искусственного интеллекта и обработки больших данных, и что опыты этой страны в создании «цифрового концлагеря» в виде системы социального рейтинга, вместе с системами распознавания лиц и тд. - представляют собой серьезный вызов западной демократии и образу жизни.

Именно это и имел в виду Брэд Смит, который заявил, что быстроразвивающиеся технологии будет «трудно догнать» - говоря о все более широком применении искусственного интеллекта Китаем для наблюдения за своими гражданами.

«Мне постоянно вспоминаются уроки Джорджа Оруэлла из его книги "1984". На самом деле эта история… была о правительстве, которое всегда могло видеть и слышать все, что делают и говорят все, - сказал Смит. - Этого не произошло в 1984 году, но, если мы не будем осторожны, это может случиться в 2024 году».

Китай стремится к 2030 году стать мировым лидером в области искусственного интеллекта, и многие считают, что его возможности выходят далеко за пределы тех, что есть у ЕС и даже США.

И это не удивительно, учитывая, что Китай обладает огромными возможностями для накопления и исследования «бигдата» на основе данных своего почти полуторамиллиардного населения. Тем более, что разработчики систем ИИ в этой стране не связаны никакими ограничениями и законами, защищающими приватность данных, как в Европе или других странах Запада.

Интересно тут еще и то, что Китай давным-давно уже не является «вещью в себе», как его принято было долгое время представлять - в 21 веке Китай осуществляет активную экспансию своего влияния в Азии и особенно - в Африке, где китайские компании скупают земли и все больше и больше стараются занять все свободное пространство - под полным покровительством и поддержкой своего правительства.

Разумеется, частью этой экспансии в будущем будет и распространения вот этих самых технологий контроля общества в виде «цифрового концлагеря», опытом создания которых, Китай с удовольствием поделится и с другими авторитарными режимами, и с Россией в том числе.

Наверняка, что и на Западе политики не упустят возможность усилить контроль за гражданами с помощью современных технологий, внедряя системы социального рейтинга в том или ином виде, и объясняя это пользой для развития современного общества….

Однако, профессиональный историк и священник Яков Кротов уверен в том, что дело вовсе не во всеобщей цифровизации, а намного глубже:

«У меня сошлось несколько текстов о том, что раньше называли проблемами, а теперь "вызовами" будущего. Что будущее ведёт себя вызывающе, несомненно, но вот странно: ни один из тех вызовов, которые в этих текстах перечислены, мне не кажется проблемой. Начну с простейшего. Александр Аузан:

"Почему тоталитаризм в 20 веке был неустойчив, свергался внешними и внутренними противниками? Потому что у него была неразрешимая проблема — чрезвычайно дорого следить за своими подданными. Мы с Арсением Рогинским размышляли об этом в архиве Штази в Германии, рассчитывая, что на одно наблюдение надо было потратить труд 17 человек. А теперь это дешево. Тоталитаризм теперь возможен, и я считаю, что возник цифровой тоталитаризм 21 века. Он основывается на дешевизне слежки за людьми и имеет экономический ресурс в виде концентрации персональных данных. Что же ему противостоит? Соединенные Штаты Америки считают, что их обычные институты решат проблему. Признавая собственность человека на персональные данные, они говорят: «У вас есть хороший суд и есть конкуренция. Смените партнера или потребуйте возмещения через суд». Не думаю, что этого достаточно".

Как это - "тоталитаризм в 20 веке был неустойчив"? Какой тоталитаризм ХХ века был свергнут изнутри? Чтобы свергнуть Гитлера потребовалась мировая война, причём в результате чрезвычайно усилился тоталитаризм Кремля. Тоталитаризм Ленина и Мао - никуда не делся.

Устойчивость тоталитаризма объясняется многими причинами, но никак не дороговизной слежки.

Кстати, расчёты Аузана вызывают недоумение: казус Штази в том, что слежка велась почти за двумя третями населения. Не 17 человек следили за одним, а треть миллиона - за 10 миллионами.

Главное в другом: само по себе накопление сведений о человеке не является опасностью. Вот в странах, где большинство населения прямо или косвенно являются государственными служащими, там слежка опасна. Правительство может легко сделать человека изгоем, заключённым или трупом. Опасность не в цифровизации, а в техническом прогрессе на службе у тоталитаризма, и прежде всего, в атомном оружии. Именно оно обеспечивает неуязвимость даже тщедушной Северной Кореи.

Главная проблема совсем другая, и Аузан о ней не упоминает ни единым словом: отсутствие обратной связи в социуме. В этом вся суть несвободы, и степень несвободы измеряется степенью распада обратных связей в стране. Тоталитаризм аннулирует обратную связь тотально. Люди превращаются в марионеток и помогают системе самовоспроизводиться.

Более того, идея Аузана это всего лишь мягкая форма конспирофобии, луддизма: якобы технический прогресс принципиально враждебен личности. В острой форме это у людей, которые видят в электронных чипах и кодах печать Антихриста.

Тоталитаризм не есть явление внутри сферы слова, логоса, прогресса, он есть явление реакционное, не нуждающееся в словах, возвращающее человека в обезьянник.

Хорошая новость: никакая слежка сама по себе не разрушает то внутреннее ядро личности, которое является её атомным котлом, обеспечивающим саморазвитие и творчество. Плохая новость: тупое физическое насилие, ограничение гражданских свобод и прав это ядро если не разрушает, то погружает в кому, отключает.

В реальной жизни люди, живущие при тоталитаризме, часто не ощущают своеобразия своего положения по той же причине, по которой слепой человек не понимает, что находится в тёмной пещере. Человек может всю жизнь прожить при Сталине в наивной убеждённости, что всё вокруг нормально. Потому что человек этот был, к примеру, призван написать великий роман, но он всю жизнь работал охранником, а всё "литературное дело" было целиком подчинено тотальным цензуре и пропаганде. Мандельштама убили, а в следующем после Мандельштама поколении уже и убивать не было нужды: люди рождались и умирали в вате невозможности. Они даже не подозревали об упущенных возможностях. Предельная инфантилизация есть не специфический опыт, а отсутствие опыта. Жизнь в смирительной рубашке. Человек даже не писал ни на кого доносов, в этом не было нужды. В идеальном тоталитарном государстве нет нужды даже в слежке - зачем? В морге пульс не проверяют.

В современной России многие люди реально не сознают кланового характера социума, потому что им нет нужды входить в какой-то клан. Клан - средство выживания для наиболее активных, а большинство населения отлучено от активности, похоже на вату, в которой покоятся ёлочные игрушки…»