Сербия ввела автоматизированную алгоритмизацию в системе социального обеспечения. Это привело к дискриминации рома и людей с ограниченными возможностями. Доклад Amnesty International

Страдающие от бедности и маргинализированные группы населения Сербии становятся ещё более бедными в результате лишения их социальной защиты после введения в действие автоматизированной системы социального обеспечения, финансируемой Всемирным банком. К такому выводу пришла Amnesty International в опубликованном сегодня докладе.

Доклад, озаглавленный «В ловушке автоматизации: бедность и дискриминация в системе социальной защиты в Сербии», рассказывает о том, как многие люди, в особенности рома и люди с ограниченными возможностями здоровья, оказались неспособны оплачивать счета и добывать пропитание — и попросту едва сводят концы с концами после исключения из системы социальной защиты, последовавшего после введения в действие реестра «Социальная карта».

«Сербский реестр “Социальная карта” подтверждает то, что мы знаем уже давно: насаждение автоматизации в системах социального обеспечения может усугублять неравенство, закреплять или умножать дискриминацию и создавать серьёзные риски для прав человека», — сказала Дамини Сатиджа, глава Лаборатории ответственного использовании алгоритмов Amnesty Tech.

«Вместо того, чтобы сделать выплаты пособий более справедливыми, новая система оставила за пределами сети социального обеспечения тысячи людей, для которых эти выплаты были единственным источником дохода, и лишила их необходимой помощи. Наиболее остро последствия автоматизации затронули уже и без того маргинализированные группы, непропорционально ограничив их доступ к программам социальных выплат», — добавила она.

Жизни, сведённые к «точкам данных»

Реестр «Социальная карта», который был введён в действие в 2022 году и должен был повысить уровень социальной защиты, предоставляемой в стране, сделал процесс определения прав граждан на получение мер социального обеспечения автоматизированным, то есть основанным на имеющихся данных. Но вместо достижения декларируемой цели, а именно достижения большей справедливости в рамках существующей системы социальной защиты, применение реестра «Социальная карта» во многих случаях приводит к противоположному эффекту. За прошедшие с момента его запуска полтора года некоторые люди, живущие в крайней бедности, либо полностью потеряли социальную помощь, либо стали получать её в меньшем объёме, что поставило их в крайне сложное финансовое положение и лишило их доступа к удовлетворению самых базовых потребностей.

За прошедшие с момента […] запуска [автоматизированного реестра получателей социальной помощи] полтора года некоторые люди, живущие в крайней бедности, либо полностью потеряли социальную помощь, либо стали получать её в меньшем объёме

Реестр «Социальная карта» использует данные — такие как уровень дохода, возраст, состав домохозяйства, состояние здоровья, занятость и другие данные — из существующих государственных баз данных, чтобы создавать социально-экономический профиль граждан, обращающихся за получением социальной помощи, и вычленяет из числа таких заявок случаи, требующие проверки социальными работниками. Такой подход называется полуавтоматизированным процессом принятия решений. Точность данных, содержащихся в используемых базах данных, играет огромную роль в обеспечении справедливых результатов рассмотрения заявок и дальнейшего получения нуждающимися мер социальной защиты.

Однако исследование, проведённое Amnesty International, свидетельствует о зачастую ужасающе низком качестве этих данных, особенно когда речь идёт о членах маргинализированных групп населения, чья документация в государственных системах часто устаревает по причинам структурного характера. Использование таких неверных данных из не обновляемых на регулярной основе баз или данных, не учитывающих сложность реальных экономических ситуаций, в которых оказываются люди, повышает вероятность ошибок, лишая лиц, имеющих право получать социальные пособия, такой возможности.

Во-вторых, использование полуавтоматизированного этапа принятия решений снизил роль социальных работников при проверке данных и документов. Раньше социальные работники посещали и опрашивали граждан, чтобы составить представление о сложных обстоятельствах их жизни, однако реестр «Социальная карта» по сути сводит экономические реалии людей, живущих за счет неформального сектора экономики и в самых разных личных обстоятельствах, к зачастую недостоверным «точкам данных».

В своём докладе Amnesty International приводит в качестве примера кейс Мирьяны, которая лишилась права на получение социальной помощи после того, как местная правозащитная организация помогла ей оплатить похороны дочери, неожиданно скончавшейся в 2023 году.

Пожертвование в размере 20 000 сербских динаров (около 170 евро), переведённое организацией на банковский счёт Мирьяны, было немедленно выявлено реестром «Социальная карта» как доход, лишающий ее права на получение мер социальной поддержки. Практически мгновенно Мирьяна, жившая за счет скромных пособий в социальном жилье, потеряла свой источник дохода.

Через два месяца после смерти дочери Мирьяна оказалась перед необходимостью вступить в продолжительный бюрократический спор о восстановлении своих прав — спор, исход которого остаётся неясным.

«Реестр “Социальная карта” — это очень неточное и несовершенное орудие, применяемое без особого внимания к возможным последствиям. Исследование Amnesty International показало, что централизованные автоматизированные системы для оценки наличия права на получение помощи могут операционализировать уже существующий ограничительный подход к социальному обеспечению», — отметила Дамини Сатиджа.

Исследование Amnesty International показало, что централизованные автоматизированные системы для оценки наличия права на получение помощи могут операционализировать уже существующий ограничительный подход к социальному обеспечению

Дамини Сатиджа, глава Лаборатории ответственного использовании алгоритмов Amnesty Tech

Застрявшие в бюрократическом лабиринте

Amnesty International обнаружила, что длительность и сложность процедуры обжалования, которую должны проходить люди, лишённые социальной поддержки, в некоторых случаях приводили к их отказу от подачи жалобы, по сути препятствуя реализации их права на средство правовой защиты. В случаях, когда данные получателя помощи были недостоверными или устаревшими, бремя доказывания этого факта и исправления ошибочной информации возлагалось на получателя. Сделать это в течение 15-дневного срока, отведённого на обжалование, часто оказывалось сложно, если не невозможно.

Социальные работники не объясняли гражданам, почему их пособия сокращались или полностью переставали выплачиваться, в результате чего такие граждане оказывались в бюрократическом лабиринте, пытаясь получить информацию из различных государственных служб, чтобы понять, где появились ошибки, и попытаться их исправить. После лишения гражданина или домохозяйства социальной поддержки должно пройти три месяца, прежде чем они смогут снова подать соответствующую заявку — вне зависимости от изменившихся обстоятельств или финансовых потребностей. Это оставляет и так находящихся в бедственном положении людей без средств к существованию.

«Реестр “Социальная карта” усугубил имеющиеся пробелы в сербской системе социального обеспечения и продемонстрировал более чем реальные риски введения автоматизации без механизмов защиты от нарушений прав человека. Без тщательного учета этих факторов основанные на данных автоматизированные системы могут легко превращаться в инструменты эксклюзии, дискриминации и угнетения», — сказала Дамини Сатиджа.

Всемирный банк поддержал разработку реестра «Социальная карта», предоставив как техническую помощь, так и финансирование. Этот проект был частью программы Всемирного банка, поддерживающей создание подобных реестров в сфере социального обеспечения. Банк организовывал или финансировал создание основанных на данных систем социального обеспечения и в других странах — в том числе в Иордании, Ливане, Гаити, Нигерии, Марокко и Анголе, а также в граничащих с Сербией Черногории и Боснии и Герцеговине. Похожий эффект, приводящий к эксклюзии, был зафиксирован и в некоторых из этих стран.

«Всемирный банк и соответствующие правительства — в том числе в Сербии — должны проводить основательные оценки рисков с точки зрения прав человека как в ходе разработки, так и в ходе реализации таких программ, закладывая в них механизмы, исключающие потенциальные угрозы для прав человека. Важно иметь в виду, что если при разработке подобной системы риски для прав человека не могут быть исключены, это означает, что она не способна достичь своих целей и не должна реализовываться», — отметила Дамини Сатиджа.