Гражданин — это не налоговый номер и не кредитный рейтинг.
Написано профессором и академиком Панагопулосом П. Алексиосом (DDDr., Dr.Habil.).
Цифровизация современного государства может быть электронным прогрессом. Но сама по себе она не является гарантией конституционных свобод.
Правительство представило Реестр мониторинга частной задолженности и Систему кредитного рейтинга с целью, по словам Министерства национальной экономики и финансов, более эффективного мониторинга частной задолженности и оценки кредитоспособности физических и юридических лиц. Использование таких инструментов может иметь законные экономические цели и обеспечивать прозрачность. Однако именно потому, что собираются и обрабатываются финансовые данные граждан, требуется повышенный институциональный и конституционный контроль.
Вопрос не в том, хотим ли мы электронного цифрового государства.
Вопрос в том, хотим ли мы цифровое государство без прозрачности и конституционных ограничений.
Конституция важнее алгоритма. Греческая конституция защищает человеческие ценности, равенство, неприкосновенность частной жизни, защиту персональных данных и устанавливает принцип соразмерности.
Особое значение имеет статья 9А, гарантирующая защиту личности от сбора, обработки и использования ее персональных данных. Статья 2 ставит ценность человеческой личности в центр государственного управления, а статья 25 обязывает уважать верховенство права и принцип соразмерности.
Это означает нечто простое с конституционной точки зрения: государство может оценивать экономический риск. Но оно не может оценивать человеческую ценность . У гражданина могут быть долги из-за потери работы, закрытия бизнеса или трудных экономических условий . Экономическая слабость не является моральным и биоэтическим провалом. И это не должно превращаться в постоянную институциональную цифровую стигму.
ПРАВО НА НАШИ ДАННЫЕ. Европейское законодательство также четко это определяет, поскольку Хартия основных прав ЕС гарантирует уважение частной жизни и, в частности, в статье 8, защиту персональных данных, доступ к данным и их исправление, а также право на проверку данных независимым органом. В то же время статья 22 GDPR признает право граждан не подвергаться решению, основанному исключительно на автоматизированной обработке, если это влечет за собой юридические последствия или существенно влияет на них, с учетом исключений и гарантий, предусмотренных Регламентом. Следовательно, если цифровая оценка должна оказать существенное влияние на жизнь человека, должна быть обеспечена прозрачность, возможность конституционного оспаривания, исправления и существенное вмешательство человека, если этого требует закон.
Красная линия «социальной оценки». Здесь необходима абсолютная точность. Конституционно некорректно представлять нынешнюю греческую систему как уже существующую систему обобщенной социальной оценки.
Но Европейский союз уже установил четкую институциональную красную линию: Закон об ИИ запрещает определенные формы «социальной оценки», когда системы ИИ оценивают или классифицируют людей на основе социального поведения или личных характеристик, и эта оценка приводит к определенному неблагоприятному или непропорциональному обращению. Это имеет особое конституционное значение. Потому что есть еще один момент:
«Насколько вероятно, что человек погасит финансовое обязательство?» и ещё один вопрос: «Насколько человек заслуживает доверия или приемлем как гражданин?» Первый может представлять собой экономическую оценку. Второй же может привести к опасной форме непрозрачности и социальной иерархии.
Именно здесь следует провести конституционную красную линию.
ПРОЗРАЧНОСТЬ И ПОДОТЧЕТНОСТЬ. Гражданин должен знать: Какие данные используются на законных основаниях? Кто имеет к ним доступ? С какой целью? Как долго они хранятся?
Как исправляется электронная или общая ошибка? Как юридически оспаривается оценка? И кто несет ответственность, когда автоматизированная электронная система допускает ошибку? Технология не является человеком, она не способна и не может претендовать на презумпцию непогрешимости. Ошибку в письменном документе можно исправить. Ошибку в цифровой системе можно воспроизвести массово и опасно. Именно поэтому человеческий контроль, подотчетность и прозрачность — это не конституционная роскошь. Это требование безопасности современного верховенства права.
ЦИФРОВОЕ ГОСУДАРСТВО — ДА, ЦИФРОВОЙ ГРАЖДАНИН — НЕТ. Греции необходимо современное электронное цифровое государство. Но ей также необходимы надежные институциональные конституционные гарантии.
Экономическая оценка может быть инструментом. Она не может стать неотъемлемой частью социальной идентичности.
Алгоритм может помочь человеку. Но он не может стать его конституционным и невидимым судьёй. И финансовая история гражданина не должна превращаться в пожизненное электронное цифровое клеймо. Поэтому настоящая проблема цифровой эпохи заключается в следующем:
Давайте создадим государство, которое будет знать, что без произвола оно будет оценивать, не клеймя, и будет цифровизировать, не будучи экстравертным и дегуманизированным. Потому что над каждой электронной базой данных стоит греческая конституция, запятнанная кровью героев, принесенных в жертву.
Над каждым алгоритмом должен стоять человек. И над каждым кредитным рейтингом должно стоять человеческое достоинство как личности, превыше всего.
Гражданин — это не номер плательщика НДС. Гражданин — это не кредитный рейтинг.
ГРАЖДАНИН — ЭТО НЕ АЛГОРИТМ.
ГРАЖДАНИН ЯВЛЯЕТСЯ НОСИТЕЛЕМ ПРАВ И СВОБОД, а также конституционных институциональных прав и обязанностей. Океания Оруэлла, как показал старый фильм, была провалом человеческого достоинства. Электронная тюрьма психосоматической сущности человека, лишенная будущего и экзистенциального существования.
См. Министерство национальной экономики и финансов · Общий регламент по защите данных (GDPR) · Хартия основных прав Европейского союза · Регламент ЕС 2024/1689 (Закон об искусственном интеллекте). Само по себе существование Реестра и системы кредитного рейтинга не означает прямого нарушения Конституции или GDPR; это зависит от правильного или неправильного использования и гарантий, определенных Конституцией. Поэтому решающим моментом является способ функционирования, правовая основа, используемые данные, цели обработки, доступ, прозрачность, контроль и реальные последствия оценок в соответствии с Конституцией.
