Amnesty International совместно с организациями-партнёрами, включая Access Now, Internet Freedom Foundation, организацию «Европейские цифровые права» (EDRi), Human Rights Watch и Бразильский институт по защите прав потребителей, подготовили открытое письмо, где призвали к введению немедленного и безоговорочного запрета на использование технологий распознавания лиц и удалённого распознавания по биометрическим показателям, которые позволяют вести как массовое наблюдение, так и дискриминационную целенаправленную слежку. С помощью этих инструментов можно идентифицировать, выделять людей и отслеживать их перемещения, куда бы они ни направлялись, тем самым попирая такие права человека и гражданские свободы, как право на неприкосновенность частной жизни и защиту данных, право на свободу выражения мнений, право на свободу собраний и объединений (с последующей криминализацией протестов и демотивацией общества), право на равенство и недискриминацию.
Письмо призвано поддержать переход от моратория к запрету в требованиях, выдвигаемых объединениями во всём мире, и тем самым подкрепить усилия организации Amnesty International и её партнёров, прилагаемые, чтобы добиться глобального запрета на такие технологии, как распознавания лиц. Этот глобальный призыв к запрету не ограничивается спецификой отдельных регионов: свой вклад в подготовку документа внесли множество организаций гражданского общества со всего мира.
Открытое письмо с призывом к глобальному запрету на технологии распознавания по биометрическим показателям, которые позволяют вести массовое наблюдение и дискриминационную слежку
Мы, нижеподписавшиеся, призываем ввести немедленный и безоговорочный запрет на использование технологий распознавания лиц и удалённого распознавания по биометрическим показателям, которые позволяют вести как массовое наблюдение, так и дискриминационную целенаправленную слежку. С помощью этих инструментов можно идентифицировать, выделять людей и отслеживать их перемещения, куда бы они ни направлялись, тем самым попирая такие права человека и гражданские свободы, как право на неприкосновенность частной жизни и защиту данных, право на свободу выражения мнений, право на свободу собраний и объединений (с последующей криминализацией протестов и демотивацией общества), право на равенство и недискриминацию.
Мы наблюдаем, как посредством технологий распознавания лиц и удалённого распознавания по биометрическим показателям совершается множество нарушений прав человека. В Китае, США, России, Англии, Уганде, Кении, Словении, Мьянме, Объединённых Арабских Эмиратах, Израиле и Индии наблюдение за протестующими и гражданскими лицами нарушает право людей на неприкосновенность частной жизни и право на свободу собраний и объединений. Неправомерные задержания ни в чём не повинных людей в США, Аргентине и Бразилии подрывают право на неприкосновенность частной жизни, право на соблюдение процессуальных норм и свободу передвижения. Слежка за этническими и религиозными меньшинствами и представителями других маргинализованных, угнетаемых групп в Китае, Таиланде и Италии попирает право людей на неприкосновенность частной жизни, право на равенство и недискриминацию.
Эти технологии заведомо создавались таким образом, что не могут не создавать угрозу правам людей, и они уже причинили немало вреда. Никакие технические и правовые гарантии никогда не смогут до конца устранить представляемую ими опасность. Поэтому мы считаем, что они вообще не должны использоваться в общественных и общедоступных местах ни властями государств, ни негосударственным сектором: возможности для злоупотреблений оказываются слишком велики, а последствия слишком тяжелы.
Мы считаем, что они вообще не должны использоваться в общественных и общедоступных местах ни властями государств, ни негосударственным сектором: возможности для злоупотреблений оказываются слишком велики, а последствия слишком тяжелы
Мы призываем к запрету потому, что даже если бы благодаря мораторию удалось временно приостановить разработку и применение таких технологий и выиграть время для сбора доказательной базы и демократического обсуждения, уже понятно, что подобные исследования и дискуссии лишь подтвердят, что применение этих технологий в общедоступных местах несовместимо с соблюдением наших прав человека и гражданских свобод и поэтому должно быть немедленно, безоговорочно и навсегда запрещено.
На что распространяется наш призыв
Под «распознаванием лиц» и «удалённым распознаванием по биометрическим показателям» понимается широкий спектр технологий, начиная с системы аутентификации по лицу, позволяющей разблокировать смартфон или получить доступ в определённое место, или технологии идентификации человека по походке и заканчивая системами, предназначенными для определения гендерной идентичности и эмоционального состояния человека.
Среди прочего, мы особо призываем запретить применение таких технологий для идентификации и выделения конкретного человека среди группы людей — технологий, известных как идентификация по лицу или биометрическим показателям (сопоставление «один ко многим»). Нас беспокоит использование подобных технологий для идентификации, выделения и отслеживания людей по их лицу, походке, голосу, внешности и прочим биометрическим показателям для ведения как массового наблюдения, так и дискриминационной целенаправленной слежки, то есть слежки, которая оказывает несоразмерное влияние на соблюдение прав человека и гражданских свобод религиозных, этнических и расовых меньшинств, политических диссидентов и иных маргинализованных групп. Мы также знаем, что в некоторых случаях системы аутентификации по лицу или другим биометрическим показателям (сопоставление «один к одному») создаются и применяются таким образом, что тоже позволяют вести проблематичные виды слежки, например путём создания больших, централизованных баз биометрических данных, которые могут использоваться в целях, отличных от изначально предусмотренных.
Мы особо призываем запретить применение таких технологий для идентификации и выделения конкретного человека среди группы людей — технологий, известных как идентификация по лицу или биометрическим показателям
Несмотря на то что создатели некоторых прикладных технологий распознавания лиц и удалённого распознавания по биометрическим показателям обещают защиту конфиденциальности благодаря тому, что данные не привязаны к законным удостоверениям личности, это, тем не менее, не мешает использовать их, чтобы выделить человека среди прочих людей в общественных местах либо чтобы сделать выводы о его характеристиках и поведении. В таких ситуациях неважно, что данные анонимизированы для защиты информации, позволяющей установить личность, и что их обработка происходит в месте генерации их потока (т. н. «периферийные вычисления»), — негативные последствия для наших прав наступают независимо от этого, поскольку сами эти инструменты заведомо созданы для того, чтобы наблюдать за людьми (или способствовать наблюдению) таким образом, что это несовместимо с соблюдением наших прав.
Более того, часто классификации биометрических показателей и лиц, на основании которых делаются выводы и предсказания о гендерной принадлежности, эмоциональном состоянии и прочих свойствах человека, страдают от серьёзных, фундаментальных недостатков в стоящей за ними научной базе. Следовательно, выводы о нас, к которым такая система приходит, зачастую неверны, поскольку порой строятся на таких евгенических теориях, как френология и физиогномика, что закрепляет дискриминацию и наносит дополнительный вред, ведь нас не только превращают в объект наблюдения, но и истолковывают превратно.
Мы призываем ввести запрет, которые распространится на применение подобных технологий для наблюдения в общедоступных местах и местах, посещения которых люди не могут избежать. В то время как использование таких технологий правоохранительными органами привлекает к себе внимание и вызывает критику, их применение негосударственным сектором может создавать ровно такую же угрозу нашим правам, особенно когда негосударственные субъекты фактически занимаются слежкой и наблюдением в пользу государственных органов в рамках государственно-частного партнёрства или иными способами передают властям информацию, полученную в ходе такого наблюдения.
Мы также с тревогой наблюдаем за тем, как частные компании, оказывающие услуги по распознаванию лиц, собирают и объединяют базы «подозрительных» людей и предоставляют к ним доступ многим клиентам. Таким образом фактически создаются «общенациональные базы данных», которые используются одновременно многими частными компаниями, но при этом составляются по усмотрению необученного персонала, без какого-либо контроля, что может приводить к дискриминации в отношении людей, внесённых в списки отслеживания на всех объектах, где пользуются такими базами данных.
Применение таких технологий для ведения наблюдения в городских парках, школах, библиотеках, на рабочих местах, транспортных узлах, спортивных стадионах, в жилищных комплексах и даже в киберпространстве, например в социальных сетях, создаёт угрозу самому существованию наших прав человека и гражданских свобод и должно прекратиться.
Почему именно запрет?
Технологии распознавания лиц и удалённого распознавания по биометрическим показателям в их нынешнем виде имеют значительные технические недостатки, в том числе, например, системы распознавания лиц, которые отличаются расовой предвзятостью и демонстрируют меньшую точность для людей с более тёмным цветом кожи. Однако техническое усовершенствование таких систем не устранит угрозу, которую они создают для наших прав человека и гражданских свобод.
Добавление более разнообразных обучающих данных и прочие меры для повышения их точности, возможно, помогут устранить некоторые из существующих проблем с этими системами, но в конечном итоге это лишь приведёт к усовершенствованию их как инструмента наблюдения и слежки и повысит их эффективность в нарушении наших прав.
Такие технологии ставят под угрозу наши права двумя основными путями.
Во-первых, обучающие данные (базы данных лиц, с которыми сравниваются получаемые данные, а также биометрические данные, обработанные этими системами) обычно приобретаются без ведома и согласия человека и без по-настоящему свободного выбора, то есть эти технологии заведомо поощряют как массовое наблюдение, так и дискриминационную целенаправленную слежку.
Во-вторых, поскольку людей можно моментально идентифицировать, выделить и отслеживать в общедоступных местах, это будет нарушать их права человека и гражданские свободы. Даже сама мысль о том, что эти технологии работают в общедоступных местах, демотивирует людей и заставляет их проявлять осторожность, что мешает им реализовывать свои права.
Даже сама мысль о том, что эти технологии работают в общедоступных местах, демотивирует людей и заставляет их проявлять осторожность, что мешает им реализовывать свои права.
Несмотря на спорные утверждения, что эти технологии повышают уровень общественной безопасности, все их преимущества однозначно и намного перевешиваются систематическим попранием наших прав. Мы видим всё больше примеров злоупотребления такими технологиями и их малопрозрачного или совсем непрозрачного внедрения.
Любое исследование и анализ истории охраны правопорядка показывает, что экспериментальное использование технологий наблюдения и слежки часто криминализирует бедные и маргинализованные сообщества, в том числе сообщества небелых людей, то есть те самые сообщества, которые традиционно сталкиваются со структурным расизмом и дискриминацией. Применение технологий распознавания лиц и удалённого распознавания по биометрическим показателям здесь не исключение, и поэтому его необходимо прекратить до того, как будет создана и войдёт в постоянный оборот ещё более опасная инфраструктура наблюдения.
Само существование подобных инструментов — будь то в руках правоохранительных органов или частных компаний (или государственно-частных партнёрств) — неизбежно будет стимулировать расширение их функционала и усиление наблюдения в общедоступных местах, что демотивирует людей и отобьёт у них желание свободно самовыражаться. В связи с тем, что одним своим наличием эти технологии подрывают наши права, а эффективный контроль, который позволил бы предотвратить злоупотребление ими, невозможен, нет никаких иных вариантов, кроме как полностью запретить их применение в общедоступных местах.
Как будет выглядеть запрет?
Существуют технологии наблюдения, которые настолько опасны, что неизбежно порождают намного больше проблем, чем решают. Когда речь идёт о технологиях распознавания лиц и удалённого распознавания по биометрическим показателям для массового наблюдения и дискриминационной целенаправленной слежки, возможности для злоупотреблений оказываются слишком велики, а последствия слишком тяжелы.
Нет никаких сомнений: защита прав человека и гражданских свобод требует запрета на применение этих технологий в общедоступных местах национальными, региональными, муниципальными, местными и любыми другими органами власти, включая все их подразделения, и особенно правоохранительными органами и органами пограничного контроля, у которых и без них достаточно кадровых и технических ресурсов для поддержания безопасности.
Как глобальная сеть организаций гражданского общества мы понимаем, что разные страны по-разному подходят к выработке решений по приоритизации прав человека в соответствии со своими конституционными, договорными и правовыми системами.
Как бы то ни было, вне зависимости от избранных средств итогом должен стать немедленный и безоговорочный запрет на применение таких технологий для наблюдения, идентификации, классификации и отслеживания людей в общедоступных местах.
По все этим причинам мы выступаем со следующими призывами:
1. Мы призываем лиц, занимающихся выработкой политики, и законодателей всех уровней по всему миру:
a. прекратить любое государственное финансирование применения технологий распознавания лиц и удалённого распознавания по биометрическим показателям, которое позволяет вести как массовое наблюдение, так и дискриминационную целенаправленную слежку;
b. принять комплексное законодательство и нормативные акты, призванные:
i. запретить использование технологий наблюдения в общественных и общедоступных местах, в том числе в общественном транспорте, как самими национальными, федеральными, региональными, муниципальными, местными и любыми другими органами власти всех административно-территориальных единиц (включая все их агентства, департаменты, секретариаты, министерства, исполнительные органы, советы, комиссии, бюро и подрядчиков, а также любые другие их подразделения и органы), так и по их поручению, уделяя особое внимание всем видам правоохранительных и следственных органов, органов пограничного контроля и спецслужб;
ii. запретить применение этих технологий негосударственными субъектами в общественных местах, общедоступных местах и местах общественного пользования, где оно позволит вести массовое наблюдение или дискриминационную целенаправленную слежку, включая, среди прочего, парки, школы, библиотеки, рабочие места, транспортные узлы, спортивные стадионы и жилищные комплексы;
iii. запретить государственным органам, особенно правоохранительным органам, получать доступ к данным и информации, полученным в результате применения таких технологий частными компаниями и другими частными субъектами, и использовать их, кроме как в целях аудита и проверки соответствия действующему законодательству;
iv. защитить людей от использования таких технологий при принятии решений по вопросам, касающимся их экономических, социальных и культурных прав, в том числе в сфере жилья, трудоустройства, социальной защиты и здравоохранения;
v. исключить применение этих технологий и полученной благодаря им информации в качестве доказательств в уголовных делах для помещения обвиняемых или подозреваемых людей под стражу;
vi. ограничить доступ властей государства к биометрической информации, хранящейся у частных компаний;
c. ввести правила и нормативные акты, запрещающие закупку таких технологий государственными органами власти и агентствами в целях ведения массового наблюдения и дискриминационной целенаправленной слежки;
d. прекратить применение технологий распознавания лиц и удалённого распознавания по биометрическим показателям для массового наблюдения и дискриминационной целенаправленной слежки за религиозными, этническими и расовыми меньшинствами, политическими диссидентами и прочими маргинализованными группами;
e. обязать сообщать об использовании таких технологий людям, к которым они были применены без их ведома и которые не имели возможности воспользоваться своим правом на соблюдение процессуальных норм, чтобы оспорить их использование;
f. предоставить надлежащее возмещение вреда людям, пострадавшим от использования этих технологий.
2. Мы призываем суды и судебных должностных лиц признать угрозу самому существованию прав человека со стороны этих технологий и принять превентивные меры и при необходимости возместить вред, причинённый их использованием.
3. Мы призываем административные органы, включая агентства по защите данных и защите прав потребителей, использовать все свои полномочия для защиты неприкосновенности частной жизни и прав потребителей, в том числе потребовав от компаний прекратить применение таких технологий.
И наконец, мы понимаем, что экзистенциальной угрозой, которую создают технологии распознавания лиц и удалённого распознавания по биометрическим показателям, должны заниматься не только государства и власти всех уровней, но и важные игроки международного и национального масштаба.
Поэтому мы также обращаемся со следующими призывами:
1. Мы призываем международные организации, такие как Управление Верховного комиссара ООН по правам человека, осудить нынешнюю разработку и применение технологий распознавания лиц и удалённого распознавания по биометрическим показателям для слежки за различными сообществами по всему миру.
2. Мы призываем негосударственных субъектов, которые занимаются разработкой технологий распознавания лиц и удалённого распознавания по биометрическим показателям либо применяют их:
a. публично пообещать отказаться от создания, разработки, продажи и применения технологий распознавания лиц и удалённого распознавания по биометрическим показателям, которые позволяют вести как массовое наблюдение, так и дискриминационную целенаправленную слежку;
b. немедленно прекратить производство технологий распознавания лиц и удалённого распознавания по биометрическим показателям для массового наблюдения и дискриминационной целенаправленной слежки и удалить все неправомерно собранные биометрические данные, использовавшиеся для создания баз данных и любых моделей и продуктов, созданных на их основе;
c. в порядке обеспечения прозрачности опубликовать отчёты с описанием всех своих государственных контрактов (включая все прошлые, настоящие и готовящиеся) на предоставление этих технологий;
d. вступать в содержательный диалог с работниками, которые объединяются на рабочих местах, чтобы протестовать против разработки технологий распознавания лиц и удалённого распознавания по биометрическим показателям для массового наблюдения и дискриминационной целенаправленной слежки или отказываться от такого рода деятельности, и не применять к таким работникам ответные санкции;
3. Мы призываем работников технологических компаний при поддержке своих профсоюзов объединяться на рабочих местах, чтобы протестовать против разработки и продажи технологий распознавания лиц и удалённого распознавания по биометрическим показателям настолько, насколько это возможно.
4. Мы призываем инвесторов и финансовые институты:
a. проявлять должную осмотрительность в вопросах прав человека применительно к своим текущим и будущим инвестициям в компании, которые разрабатывают и продают технологии распознавания лиц и удалённого распознавания по биометрическим показателям, чтобы выявлять, когда эти технологии несовместимы с соблюдением прав человека и способствуют массовому наблюдению и дискриминационной целенаправленной слежке;
b. требовать от компаний, в которые они инвестируют, прекратить создание, разработку, продажу и иные способы предоставления таких технологий для массового наблюдения и дискриминационной целенаправленной слежки.
5. Мы призываем организации-доноров выделить финансирование на ведение судебных процессов и лоббирование неправительственным организациям и организациям гражданского общества, которые через суд добиваются возмещения вреда и активно взаимодействуют с лицами, занимающимися выработкой политики на местном, региональном, общенациональном, федеральном, наднациональном и международном уровне.
Заключение
Мы просим представителей гражданского общества, активистов, учёных и прочих заинтересованных лиц со всего мира подписать это письмо и присоединиться к борьбе за немедленный запрет на применение подобных технологий в общедоступных местах, чтобы наши права человека и гражданские свободы были защищены.
За дополнительной информацией о том, как поддержать эту инициативу, обращайтесь по электронному адресу [email protected]. Ознакомиться с полным списком подписантов и поставить свою подпись можно на сайте accessnow.org/ban-biometric-surveillance.
Текст данного заявления подготовлен организациями Access Now, Amnesty International, «Европейские цифровые права» (EDRi), Internet Freedom Foundation (IFF), Human Rights Watch и Бразильским институтом по защите прав (IDEC).