Без строчки в коде ты никто: как алгоритмы меняют гражданство

Сегодня гражданство, вместе со всеми соответствующими правами и обязанностями, —  часть нашей повседневности. По мере того как технологии становятся составляющей нашей рутины, они незаметно меняют ее, казалось бы, постоянный аспект — кем мы являемся для тех государств, к которым принадлежим.

Дмитрий Муравьёв

Наши гражданские права и обязанности и ранее были связаны с объектами, которые в момент своего появления воспринимались как технологии: это и реестры рождения и смерти, брака и разводов, паспорта, водительские удостоверения и карточки социального страхования и налогоплательщика. Сегодня в этот список можно добавить еще и новые цифровые технологии. В этом тексте попробуем разобраться в том, как алгоритмы политически воздействуют на граждан и трансформируют наши отношения с государством.

Краткая история гражданства: от XVIII до XX века

Новизну нельзя увидеть без представления о старом, поэтому кратко расскажу о том, как в течение истории менялось понимание гражданства. Обращусь к влиятельной в политологии и других социальных науках типологии исследователя Томаса Хамфри Маршалла, предложенной им в работе «Гражданство и социальный класс». 

Анализируя историю Великобритании, он предлагал различать три типа прав и соответствующих им обязанностей: гражданские, политические и социальные. Для него эти типы закрепились, соответственно, в XVIII, XIX и XX веке. 

Под гражданскими правами Маршалл понимает права на свободу личности, слова, мысли и вероисповедания, владения собственностью, заключение договоров и справедливый суд, а под политическими — участие в политической жизни общества в качестве избирателя или представителя. 

Социальный элемент гражданства появляется позже, и он включает в себя представление о том, что граждане — не просто обладатели ряда свобод и участники политической жизни. Теперь они также должны иметь «цивилизованную жизнь», обладать правом на минимальное экономическое благополучие и безопасность.

Появление и закрепление каждого из этих трех статусов для Маршалла сопровождается созданием соответствующих институтов. Для гражданских прав и обязанностей — это суды, для политических — парламенты и органы местного самоуправления, для социальных — всеобщее образование и социальные службы.

Государство и «мы» после алгоритмов

В XXI веке на гражданский, политический и социальный элементы «наслаиваются» цифровые технологии, меняя их содержание. Это происходит не само по себе, а при участии государств, международных организаций и коммерческих IT-компаний. 

Так, многие страны, среди которых Эстония, Финляндия, Франция, Греция, Индия, уже утверждают право на доступ к интернету как базовое социальное право.  Интернет все активнее распространяется и превращается в инфраструктуры повседневной жизни, и государства, зачастую независимо от желаний граждан, охотно внедряют этот новый, цифровой элемент гражданства. Исследовательница Марион Фуркад называет его «порядковым гражданством» — оно активно завязано на обработке данных, классификации и использовании статистических процедур анализа.

У такого процесса есть существенный недостаток — он сопутствует социальному неравенству. Точно так же как введение всеобщего образования способствовало проведению новых различий между гражданами в социальной мобильности, знаниях и возможностях, алгоритмы теперь проводят различия, создавая новые иерархии. 

Зависимость политических прав гражданина от работы автоматизированных систем особенно очевидна в случае китайской системы «социального кредита».  Она спроектирована для оценивания людей в соответствии с алгоритмически вычисляемыми метриками «хорошего гражданина»: соблюдает ли человек законы, платит ли штрафы и чтит ли контракты. За счет такого переопределения отношений между человеком и государством, замечают Марион Фуркад и Джеффри Гордон, полное гражданство становится тем, что нужно заслужить. Несомненно, китайская система не настолько монолитна, совершенна и тотальна, как ее часто описывают, однако она уже задает новое понимание гражданства.

Социальные выплаты и машины бедности

Может показаться, что такие истории ограничиваются лишь авторитарными с политической точки зрения странами,  но это не так. Социальный элемент гражданства, сформированный в XX веке, теперь и во многих демократических государствах зависит от алгоритмов. Хотя демократические институты и помогают сделать проблему более видимой, а ее последствия — управляемыми, нельзя сказать, что им удается полностью справиться с последствиями влияния технологий на гражданский статус. 

Так, в в 2019 году издание The Guardian выпустило серию статей «Автоматизируя бедность», в которой показывало, как распределение социальных пособий через алгоритмические системы приводит к тому, что людям отказывают в выплатах без уведомлений. Эти решения принимаются будто бы сами по себе, автоматически, без возможности низового контроля, публичных дебатов или подотчетности. 

Проблемы не сводятся к несовершенствам единичных систем — цикл статей описывает аналогичные проблемы в Великобритании, США, Австралии и Индии. Журналисты The Guardian также собрали монологи англичан, получивших автоматический отказ в социальный помощи. Из них становится понятно, к  каким критичным последствиям алгоритмизация гражданства может привести — к стрессу, голоду, бездомной жизни. 

К схожим выводам приходит и американский политолог Вирджиния Юбэнкс в книге «Автоматизируя неравенство». Она изучила три кейса — систему социального обеспечения штата Индиана, программу помощи бездомным в получении жилья в Лос-Анджелесе и социальное обеспечения детей округа Аллегени. Основная идея ее работы заключается в следующем: алгоритмы, которые должны были помочь бедным, на самом деле еще больше ухудшают их экономическое положение. Такое использование алгоритмов для предоставления социальных услуг Юбэнкс называет «цифровой богадельней» (digital poorhouse).

Негражданин (0) / Гражданин (1)

Наконец, сам статус гражданина теперь зависит от алгоритмической оценки. Это известно нам по документам, ставшим достоянием общественности благодаря разоблачениям Эдварда Сноудена в 2013 году. Так, один из алгоритмов оценивал гражданство интернет-пользователей по их онлайн-активности: если показатель был ниже 50%, то человек рассматривался как иностранец. Это позволяло ЦРУ легально следить за такими пользователями, ведь люди теряли формальные привилегии защиты, которые обеспечиваются американским паспортом. Подобный тип гражданства исследователь Джон Чейни-Липпольд называет jus algorithmi: если раньше оно определялось по праву крови (jus sanguinis) или почвы (jus soli), то теперь оно все больше зависит от технологий — зачастую скрытых от нас.  

Будущее гражданства как статуса может быть очень разным. С одной стороны, можно попытаться отстоять прошлые элементы гражданства. С другой стороны, можно представить картину, когда социально нежелательная дискриминация, вызванная алгоритмами, будет уменьшаться через изменения в самом цифровом гражданстве. Учитывая насколько государство и бизнес — вместе и по отдельности — вовлечены в продвижение новых форм цифрового гражданства, успех таких политических проектов, как кажется, во многом зависит от демократичности политических институтов. Стоит ожидать, что наши гражданские отношения с государствами в будущем будут меняться — вместе с нами или же без нас. 

Материал подготовлен в сотрудничестве со Сверхновой​.