Комментируя решение Google снять запрет на использование искусственного интеллекта (ИИ) для разработки оружия и средств наблюдения, Мэтт Махмуди, исследователь и консультант Amnesty International по искусственному интеллекту и правам человека, сказал:
«Позорно, что Google решила создать этот опасный прецедент, после того, как на протяжении многих лет признавала, что её программа ИИ не должна использоваться способами, которые могут способствовать нарушениям прав человека. Amnesty имеет долгую историю документирования возможных нарушений прав человека, спровоцированных ИИ, когда он используется как средство общественного контроля, массового наблюдения и дискриминации».
«Технологии на основе ИИ могут способствовать расширению систем наблюдения и смертоносного вооружения в огромных масштабах, что потенциально приведёт к массовым нарушениям прав и посягательству на фундаментальное право на частную жизнь. Решение Google отменить запрет на использование ИИ в вооружении позволяет компании продавать продукты, которые поддерживают такие технологии, как массовая слежка, дроны, разработанные для полуавтоматических ударов по сигнатурам, и программное обеспечение для генерации целей, предназначенное для ускорения принятия решения об убийстве», — указал он.
Позорно, что Google решила создать этот опасный прецедент, после того, как на протяжении многих лет признавала, что её программа ИИ не должна использоваться способами, которые могут способствовать нарушениям прав человека
Мэтт Махмуди, исследователь и консультант Amnesty International по искусственному интеллекту и правам человека
«Google должна срочно отменить недавние изменения в принципах ИИ и вновь взять на себя обязательство воздержаться от разработки или продажи систем, которые могут привести к серьёзным нарушениям прав человека, — указал Махмуди. — Также важно, чтобы государственные субъекты установили обязательные правила, регулирующие развёртывание этих технологий, основанные на принципах соблюдения прав человека. Фасад саморегулирования, поддерживаемый технологическими компаниями, не должен отвлекать нас от срочной необходимости создания надежного законодательства, защищающего права человека».
Справка
Во вторник Google удалила со своего сайта обещание не развивать технологии, которые «наносят общий вред», включая оружие и системы наблюдения, а также «технологии, цель которых противоречит общепринятым принципам международного права и правам человека». Google объяснила изменения тем, что предприятиям и правительствам необходимо совместно работать над ИИ, который «поддерживает национальную безопасность».
Ранее исследование Amnesty International показало, как системы распознавания лиц усиливают расовую дискриминацию со стороны полиции и ставят под угрозу право на протест. В 2019 году другое исследование Amnesty International продемонстрировало, что бизнес-модель Google, основанная на слежке, по своей сути несовместима с правом на неприкосновенность частной жизни и представляет угрозу целому ряду других прав, включая свободу мнения и его выражения, свободу мысли, а также право на равенство и недискриминацию.