Правозащитники потребовали от Amazon прекратить продажи системы распознавания лиц властям
Правозащитники потребовали от Amazon прекратить продажи системы распознавания лиц властям
Под письмом ACLU подписались представители ещё нескольких десятков правозащитных организаций. Американский союз защиты гражданских свобод (ACLU, некоммерческая неправительственная организация) обратился к гендиректору Amazon Джеффу Безосу с просьбой прекратить продажи системы распознавания лиц Rekognition полиции.
Система использует искусственный интеллект для быстрой идентификации людей на фото и видео, а также распознавания текстов. Подразделение Amazon Web Services представила Rekognition в 2016 году. По собственным данным AWS, система способна распознать до 100 лиц на изображениях с большим количеством людей.
Это также может ударить по доверию и уважению к Amazon, следует из письма. В письме Безосу представители ACLU утверждают, что власти могут злоупотреблять возможностями технологии, что представляет серьёзную угрозу для инакомыслящих, иммигрантов и чернокожих.
Наибольшее беспокойство у ACLU вызвал проект Орландо по распознаванию лиц с изображений городских камер в режиме реального времени. Союз изучил маркетинговые материалы и документы AWS и заметил, что среди клиентов компании есть власти города Орландо (штат Флорида) и офис шерифа округа Вашингтон. О нём в начале мая рассказал директор Rekognition Ранджу Дас на конференции AWS в Сеуле.
Автоматизируя массовое наблюдение, системы распознавания лиц вроде Rekognition создают угрозу для свободы граждан, особенно сообществ, которые «несправедливо стали мишенью современного политического климата», заявили в союзе.
В качестве доказательства того, что технологии Amazon могут использоваться для массовой слежки за людьми, ACLU приводит отрывок из официального сообщения AWS.
Вы можете точно идентифицировать демографические данные и анализировать настроение всех лиц на групповых фотографиях, массовых мероприятиях и в общественных местах, таких как аэропорты и магазины.
из официального анонса AWS
В качестве одного из доказательств они приводят запись в блоге на официальном сайте AWS от июня 2017 года. Amazon не только продаёт властям технологии, но и помогает их развёртывать, уверены в ACLU. Он рассказал, как при содействии специалистов Rekognition им удалось отсканировать 300 тысяч снимков арестованных преступников для электронной базы. Её опубликовал старший аналитик информационных систем офиса шерифа округа Вашингтон.
В распоряжении ACLU также оказались письма сотрудникам поддержки Amazon от правительственных учреждений и ответы на них.
Система уже отмечает на фото всех заключённых с татуировками, но офицера интересует возможность сделать более точные теги: например, татуировка с драконом или с цветком. Так, в одном из писем сотрудник правоохранительных органов интересуется, можно ли улучшить технологию, чтобы она различала и автоматически добавляла описание татуировок заключённых.
«Когда мы обнаруживаем, что клиент злоупотребляет услугами AWS, мы приостанавливаем его права на использование наших сервисов», — отметил он. Представитель Amazon сообщил Bloomberg, что компания требует от клиентов соблюдать законы и ответственно подходить к использованию Rekognition.
Также систему используют некоторые парки развлечений, чтобы находить потерянных детей. В компании добавили, что различные организации используют Rekognition для поисках пропавших и похищенных людей, но конкретных примеров не привели. Среди других клиентов Reakognition — сервисы Pinterest и SmugMug, которые используют его для распознавания текста на изображениях, загруженных пользователями.
#новость #amazon