Главная » Hi-Tech » Искусственный интеллект Amazon обвинили в предвзятости к расе человека

Искусственный интеллект Amazon обвинили в предвзятости к расе человека

Система распознавания лиц

Одной из них является Amazon — ее технология называется Rekognition и, по мнению специалистов из Массачусетского технологического института, она сильно уступает своим аналогам. Разработкой системы распознавания лиц занимается практически каждая технологическая компания. Это уже вторая жалоба на оскорбительную работу распознавания лиц Amazon. Дело в том, что в ходе оценки ее точности выяснилось, что система часто не может различить пол чернокожих людей.

Количество ошибок при определении пола чернокожих людей достигало 31% и это, по мнению исследователей, ужасный результат. Ученые проверяли работу искусственного интеллекта Rekognition на протяжении всего 2018 года. Для сравнения, распознавание лиц Microsoft допускает подобные ошибки только в 1,5% случаев.

Она уверила, что во внутренних тестах обновленной версии Rekognition не было замечено ни одной шибки. Компания Amazon считает, что претензии исследователей лишены оснований. Исследователи обратили внимание, что сотрудники MIT не назвали уровень точности, при достижении которой работа искусственного интеллекта Amazon считалась бы «правильной».

В ходе их тестирования искусственный интеллект не допустил ни единой ошибки. По словам генерального директора по глубокому обучению Amazon Web Services Мэтта Вуда, они самостоятельно проверили систему, используя миллион изображений лиц из базы данных Megaface. При этом представитель компании объявил, что они готовы прислушиваться к результатам сторонних тестов для того, чтобы улучшить свой продукт.

Летом 2018 года она приняла 28 членов Конгресса за преступников, причем 38% из них были чернокожими. Это далеко не первый случай, когда искусственный интеллект Amazon оказался в центре скандала.

К счастью, они извлекают уроки из ситуаций и постоянно улучшают технологии. С подобными скандалами имели дело и другие компании. Это уменьшило количество ошибок при сортировке мужчин и женщин до 20 раз. В июне Microsoft расширила количество данных, используемых при распознавании лиц — в частности, система начала больше обращать внимание на пол, возраст и оттенок кожи.

Также рекомендуем вам вступить в наш чат в Telegram, где вы всегда найдете с кем обсудить науку и технологии. Если у вас есть какие-либо мысли по поводу этой новости — смело пишите их в комментариях!


Оставить комментарий

Ваш email нигде не будет показан
Обязательные для заполнения поля помечены *

*

x

Ещё Hi-Tech Интересное!

Facebook призналась в хранении «миллионов» паролей пользователей Instagram в незашифрованном виде

Facebook призналась в хранении «миллионов» паролей пользователей Instagram в незашифрованном виде — Соцсети на vc.ru Свежее Вакансии Написать Уведомлений пока нет Пишите хорошие статьи, комментируйте,и здесь станет не так пусто Войти В марте компания признала аналогичную ошибку — тогда речь ...

Открыт новый вид древних «кошек», которые были крупнее белых медведей

В то время ученых заинтересовали только останки приматов, а кости неизвестного хищника были оставлены в Национальном музее Кении в Найроби. В 1981 году в Юго-Западной Кении палеонтологами были найдены окаменелости разных животных, в том числе человекообразных обезьян и некого хищника, ...