Главная » Hi-Tech » Искусственный интеллект Amazon обвинили в предвзятости к расе человека

Искусственный интеллект Amazon обвинили в предвзятости к расе человека

Система распознавания лиц

Одной из них является Amazon — ее технология называется Rekognition и, по мнению специалистов из Массачусетского технологического института, она сильно уступает своим аналогам. Разработкой системы распознавания лиц занимается практически каждая технологическая компания. Это уже вторая жалоба на оскорбительную работу распознавания лиц Amazon. Дело в том, что в ходе оценки ее точности выяснилось, что система часто не может различить пол чернокожих людей.

Количество ошибок при определении пола чернокожих людей достигало 31% и это, по мнению исследователей, ужасный результат. Ученые проверяли работу искусственного интеллекта Rekognition на протяжении всего 2018 года. Для сравнения, распознавание лиц Microsoft допускает подобные ошибки только в 1,5% случаев.

Она уверила, что во внутренних тестах обновленной версии Rekognition не было замечено ни одной шибки. Компания Amazon считает, что претензии исследователей лишены оснований. Исследователи обратили внимание, что сотрудники MIT не назвали уровень точности, при достижении которой работа искусственного интеллекта Amazon считалась бы «правильной».

В ходе их тестирования искусственный интеллект не допустил ни единой ошибки. По словам генерального директора по глубокому обучению Amazon Web Services Мэтта Вуда, они самостоятельно проверили систему, используя миллион изображений лиц из базы данных Megaface. При этом представитель компании объявил, что они готовы прислушиваться к результатам сторонних тестов для того, чтобы улучшить свой продукт.

Летом 2018 года она приняла 28 членов Конгресса за преступников, причем 38% из них были чернокожими. Это далеко не первый случай, когда искусственный интеллект Amazon оказался в центре скандала.

К счастью, они извлекают уроки из ситуаций и постоянно улучшают технологии. С подобными скандалами имели дело и другие компании. Это уменьшило количество ошибок при сортировке мужчин и женщин до 20 раз. В июне Microsoft расширила количество данных, используемых при распознавании лиц — в частности, система начала больше обращать внимание на пол, возраст и оттенок кожи.

Также рекомендуем вам вступить в наш чат в Telegram, где вы всегда найдете с кем обсудить науку и технологии. Если у вас есть какие-либо мысли по поводу этой новости — смело пишите их в комментариях!


Оставить комментарий

Ваш email нигде не будет показан
Обязательные для заполнения поля помечены *

*

x

Ещё Hi-Tech Интересное!

Создано лекарство против возрастного ослабевания мышц

Разумеется, этот процесс можно замедлить при помощи физических упражнений, но физкультурой занимается далеко не каждый человек. Печальный факт — после 35 лет практически каждый человек начинает терять мышечную массу и ослабевать. Экспериментальное лекарство уже показало свою эффективность и безопасность на ...

Почему нам следует раздавать всем бесплатные деньги

Отрывок из книги «Утопия для реалистов» голландского историка Рутгера Брегмана о безусловном базовом доходе. В закладки MakeRight Её автор Рутгер Брегман получил награду за лучшую документальную книгу и дважды номинировался на Премию журналистской прессы. Издательство «Альпина» выпустило книгу «Утопия для ...