Технология как «мостовая» для индивидуальной свободы – Часть 5
Автор: г-н Константинос Ватиотис, бывший доцент юридического факультета Салоникского университета
ЧАСТЬ 5
ЛУЧШИЙ ВАРИАНТ: СОХРАНЕНИЕ КОНТРОЛЯ НАД МАШИНАМИ
В части IV статьи, посвященной технологиям как препятствию на пути к свободе, был зафиксирован наихудший сценарий — чрезмерная зависимость людей от машин.
В сегодняшней части V мы представим благоприятный сценарий, о котором говорит Качиньский: [1] Согласно этому сценарию, возможно сохранение человеческого контроля над машинами. В этом случае среднестатистический человек сможет управлять некоторыми своими машинами, например, своим автомобилем и персональным компьютером, но управление крупными механическими системами будет находиться в руках очень узкой элиты – как и сегодня [С.С.: автор пишет выше в 1995 году], но с двумя отличиями.
ТРИ КАТЕГОРИИ ЭЛИТЫ
Благодаря усовершенствованным технологиям элита будет осуществлять больший контроль над массами, а поскольку человеческий труд больше не будет нужен, массы станут лишними; они станут бесполезным бременем для системы.
Если элита будет безжалостна, она может просто решить уничтожить большую часть человечества.
Если он человек, он может использовать пропаганду или другие психологические или биологические методы, чтобы снизить рождаемость до тех пор, пока основная масса человечества не исчезнет и не оставит мир элите.
Если элита состоит из мягкосердечных либералов, они могут решить играть роль «добрых пастырей» для остальной части человечества. [2] Они позаботятся о том, чтобы все материальные потребности были удовлетворены, все дети воспитывались в психологически здоровых условиях, у каждого было приятное хобби, чтобы занять их, и любой, кто может быть недоволен, будет подвергнут «терапии», чтобы решить его «проблему».
Конечно, жизнь была бы настолько бессмысленной, что людей пришлось бы биологически или психологически модифицировать, [либо] чтобы избавиться от необходимости проходить через процесс приобретения власти, [либо] чтобы «облагораживать» их инстинктивное стремление к власти, направляя его в какое-нибудь безобидное хобби. Эти модифицированные люди могли бы быть счастливы в таком обществе, но они, безусловно, не были бы свободны. Они были бы низведены до положения домашних животных.
Последнее предложение из вышеизложенных размышлений Качиньского нуждается в следующем дополнении: те граждане, которые согласились покинуть свои дома во время карантина в так называемой маске, уже превратились в «домашних животных»; и последующий разворот был характерным и одновременно шокирующим: некоторые граждане выгуливали свою собаку, которая, в разительный контраст со своим хозяином в маске, ходила без намордника. Это сатанинский триумф перевёрнутого мира!
СТЮАРТ РАССЕЛ
По другую сторону от отрицателей технологий, или даже техноскептиков, находятся те, кто верит, что создание сверхразумного искусственного интеллекта может помочь нам избежать стихийных бедствий, обрести вечную жизнь и путешествовать быстрее света, если всё это действительно возможно. Его достижение ознаменовало бы огромный скачок, разрыв в нашей цивилизации. Появление сверхразумного искусственного интеллекта во многом похоже на появление превосходящей внеземной цивилизации, только гораздо более вероятно. Однако самое главное заключается в том, что в вопросах ИИ, в отличие от инопланетян, мы имеем право голоса.
Эти слова взяты из книги Стюарта Рассела, профессора компьютерных наук Калифорнийского университета в Беркли, США, «Совместимость людей? Искусственный интеллект и проблема контроля» [3].
Однако автор отмечает, что в отличие от того хаоса, который начался бы, если бы высшая внеземная цивилизация сообщила нам о своём появлении на Земле через тридцать-пятьдесят лет, «наша реакция на ожидаемое появление сверхразумного искусственного интеллекта оказалась чрезмерно вялой», и заключает тезисом о том, что «его внедрение стало бы величайшим достижением человечества... и, возможно, последним актом его истории».
В свете намёка Рассела на инопланетян стоит вспомнить слова Олдоса Хаксли, сказанные им в лекции, прочитанной 20 апреля 1959 года, о «будущем мира»: [4]
В целом, можно сказать, что люди готовы объединяться и мириться с долгосрочными лишениями ради долгосрочной выгоды только тогда, когда им кто-то угрожает; они готовы объединяться только тогда, когда им угрожает война или катастрофа. Несомненно, лучшее, что может случиться для возникновения мирового правительства, – это вторжение с Марса. К сожалению, шансы на это минимальны. Но можно ли убедить себя в том, что, по сути, люди сами ведут себя как марсиане, что перенаселением, чрезмерной организацией и неконтролируемой технологизацией мы совершаем ужасные преступления против самих себя? Можем ли мы объединиться против самих себя ради наших собственных высших интересов? Возможно, при должном просвещении и пропаганде можно было бы распространить следующую точку зрения: то, что мы считаем «тихими мирными временами» [прим. ред.: Шекспир, «Король Ричард III», акт I, сцена 1], на самом деле не является «тихими мирными временами», а что над нами постоянно нависает серьёзная угроза, и для наших собственных интересов крайне важно объединиться, чтобы её нейтрализовать. Это, скорее, догадка со слабой надеждой на её реализацию. Однако такой аргумент в конечном итоге способен убедить людей объединиться и сформировать общее правительство под эгидой закона.
Вернёмся, однако, к Стюарту Расселу, который упоминает фильм 2014 года «Превосходство», по сценарию которого герой Уилл Кастер (его играет Джонни Депп), ведущий исследователь в области искусственного интеллекта, получает смертельное ранение, но перед смертью его разум загружают в квантовый суперкомпьютер, в результате чего он очень быстро обретает способности, превосходящие человеческий мозг, грозя покорить весь мир.
Крайне тревожна оценка Рассела, согласно которой «путь к сверхчеловеческому интеллекту кажется неумолимым, но его наличие (когда-либо реализуется) может потребовать уничтожения человеческой расы» [5]. «Однако, — уточняет он сам, — не всё потеряно. Мы должны понять, где мы ошиблись, и затем исправить это». Это исправление предполагает нахождение надёжного способа гарантировать, что цели интеллектуальных машин будут идентичны целям человека.
Согласно афоризму Рассела: «Машины полезны в той мере, в какой их действия ведут к достижению наших целей» [6].
В следующей, шестой части этой серии статей о технологиях как препятствии на пути к свободе, будет представлена исключительно актуальная театральная работа Карела Чапека «Роботы».
Примечания:
[1] Казинский, Индустриальное общество и его будущее, под ред.: С. Джаннелис, Издательство Exodus, Афины, 2019, стр. 151. [2] Относительно различия между пастушеским и охотничьим авторитетом см. важную книгу французского философа Грегуара Шамайю, Manhunt. History and Philosophy of Hunting Authority, под ред.: Иоанна Чондру, Издательство Allotropo, Афины, 2013. [3] под ред.: Н. Апостолопулос, под ред.: Травлос, Афины, 2021, стр. 17. [4] Хаксли, Лекции о состоянии человека, под ред.: А. Папасириопулос, Издательство Arsenides, Афины, 2017, стр. 157. [5] Рассел, там же, стр. 27. [6] Рассел, там же, стр. 28.
