Цифровой авторитаризм против либеральной демократии
Ψηφιακός αυταρχισμός vs φιλελεύθερη δημοκρατία
Николас Пишет
В дебатах о влиянии искусственного интеллекта (ИИ) преобладают два вопроса. Во-первых, это страх перед единичным событием, событием, в котором ИИ превзойдет человеческий интеллект и выйдет из-под контроля человека, что может привести к катастрофическим последствиям. Другая — опасение, что новая промышленная революция позволит машинам разрушить и заменить людей во всех — или почти во всех — сферах жизни общества, от транспорта до вооруженных сил и здравоохранения.
Есть и третья проблема: искусственный интеллект обещает изменить мир. Позволяя правительствам контролировать, понимать и контролировать своих граждан гораздо более тщательно, чем когда-либо прежде, искусственный интеллект предложит авторитарным странам жизнеспособную альтернативу либеральной демократии, первую после окончания холодной войны. Это вызовет новую международную конкуренцию между социальными системами.
В течение десятилетий большинство политических теоретиков считали, что либеральная демократия предлагает единственный путь к устойчивому экономическому успеху. Либо правительства могли угнетать свой народ и оставаться бедными, либо они могли освободить его и пожинать экономические выгоды. Некоторым угнетающим странам удавалось какое-то время развивать свою экономику, но в долгосрочной перспективе авторитаризм всегда означал застой. ИИ обещает перевернуть эту дихотомию. Он предлагает разумный способ для крупных, экономически развитых стран сделать своих граждан богатыми, сохраняя при этом контроль над ними.
Некоторые страны уже движутся в этом направлении. Китай начал строить цифровое авторитарное государство, используя инструменты наблюдения и машинного обучения для контроля за беспокойным населением и создавая то, что он называет «системой социального кредита». Несколько стран-единомышленников начали закупать или имитировать китайские системы. Подобно тому, как конкуренция между либерально-демократическими, фашистскими и коммунистическими социальными системами определила большую часть двадцатого века, борьба между либеральной демократией и цифровым авторитаризмом должна определить двадцать первый век.
Цифровой авторитаризм
Новые технологии обеспечат высокий уровень социального контроля по разумной цене. Правительства смогут выборочно подвергать цензуре темы и поведение, чтобы разрешить свободный поток информации для экономически продуктивной деятельности, ограничивая при этом политический дискурс, который может нанести вред режиму. Так называемый Великий китайский файрвол представляет собой раннюю демонстрацию такого рода выборочной цензуры.
В дополнение к обратной цензуре речи искусственный интеллект и большие данные позволят проводить предиктивный отбор потенциальных инакомыслящих. Это будет похоже на то, как Amazon или Google ориентируются на потребителей, но будет гораздо эффективнее, поскольку авторитарные правительства смогут добывать данные способами, не разрешенными в либеральных демократиях. Amazon и Google имеют доступ только к данным с определенных учетных записей и устройств, ИИ, предназначенный для социального контроля, будет извлекать данные с нескольких устройств, с которыми человек взаимодействует в течение своей повседневной жизни. И что еще более важно, авторитарные режимы без колебаний объединят такие данные с информацией из налоговых деклараций, медицинских карт, судимостей, клиник сексуального здоровья, банковских счетов, генетического тестирования, физической информации (такой как местонахождение, биометрия и отслеживание с помощью видеонаблюдения). с использованием программного обеспечения для распознавания лиц) и информацию, полученную от семьи и друзей. ИИ хорош ровно настолько, насколько хороши данные, к которым он обращается. К сожалению, количество и качество данных, доступных правительствам о каждом гражданине, окажутся отличными для обучения систем ИИ.
Даже наличие такого предиктивного контроля поможет авторитарным. Самоцензура была, пожалуй, самым важным дисциплинарным механизмом восточногерманской Штази. ИИ сделает эту тактику значительно более эффективной. Люди будут знать, что повсеместный мониторинг их физической и цифровой активности будет использоваться для прогнозирования нежелательного поведения, даже действий, о которых просто думают. Технически такие прогнозы ничем не отличаются от использования систем искусственного интеллекта в здравоохранении для прогнозирования заболеваний у внешне здоровых людей до появления их симптомов.
Чтобы система не делала негативных прогнозов, многие люди начнут подражать поведению «ответственного» члена общества. Они могут быть такими же подробными, как и то, как долго чьи-то глаза смотрят на разные объекты на экране телефона. Это улучшит социальный контроль, не только заставив людей действовать определенным образом, но и изменив образ их мышления. Центральным открытием когнитивной науки о влиянии является то, что принуждение людей к поведению может изменить их отношение [6] и привести к самоусиливающимся привычкам. Заставляя людей развивать позицию, они с большей вероятностью ее поддержат — метод, который китайцы использовали против американских военнопленных во время Корейской войны. Продавцы знают, что побуждение потенциального клиента к незначительному поведению может изменить его отношение к более поздним, более крупным запросам. Более 60 лет работы в лаборатории и на местах продемонстрировали замечательную способность людей рационализировать свое поведение.
Помимо более эффективного контроля, ИИ также обещает лучшее централизованное финансовое планирование. Как утверждает Джек Ма, основатель китайского технологического гиганта Alibaba, при наличии достаточной информации центральные власти могут управлять экономикой, планируя и предвидя рыночные силы. Вместо медленных, жестких, универсальных конструкций ИИ обещает быстрые и подробные ответы на потребности клиентов.
Нет никакой гарантии, что такой цифровой авторитаризм будет работать в долгосрочной перспективе, но, возможно, это и не обязательно, если это разумная модель, к которой могут стремиться некоторые страны. Этого будет достаточно, чтобы разжечь новое идеологическое соперничество. Если правительства начнут рассматривать цифровой авторитаризм как жизнеспособную альтернативу либеральной демократии, они не почувствуют давления в пользу либерализации. Даже если модель, в конце концов, потерпит неудачу, усилия по ее внедрению могут длиться долгое время. Коммунистическая и фашистская модели рухнули только после того, как потерпели неудачу тщательные попытки применить их к реальному миру.
Цифровые гиганты и угрозы
Цифровые гиганты также наносят ущерб разнообразию СМИ и поддержке контента, представляющего общественный интерес, а также создают «Дикий Запад» в политической рекламе. Но ранее радикально новые технологии, такие как радио и телевидение, ставили аналогичные проблемы, и общество приняло вызов. В конце концов, регулирование, скорее всего, догонит новые определения «СМИ» и «издателя», созданные Интернетом. Генеральный директор Facebook Марк Цукерберг сопротивлялся тому, чтобы маркировать политическую рекламу так же, как это требуется для телевидения, пока политическое давление не вынудило его в прошлом году. Либеральные демократии вряд ли смогут победить цифровой авторитаризм. Недавние опросы показывают, что уменьшающийся процент западных обществ считает демократию «необходимой», но это далеко не истинное ослабление западной демократии.
Внешний вызов со стороны нового авторитарного конкурента может укрепить либеральные демократии. Тенденция людей формулировать конкуренцию в терминах «мы против них» может привести к тому, что западные страны определят свое отношение к цензуре и слежке, по крайней мере частично, в противовес новой конкуренции. Большинство людей считают практические аспекты политики данных скучными и мало внимания уделяют опасностям отслеживания. Но когда эти проблемы заземляют антиутопический режим в реальном мире, они не окажутся ни скучными, ни абстрактными. Правительства и технологические компании в либеральных демократиях должны объяснить, чем они отличаются.
https://orthodoxostypos.gr/ ψηφιακός-αυταρχισμός-vs-φιλελεύθερη-δη/
