Hi-Tech

Ученые придумали способ отучить ИИ от расизма

Система распознавания лиц

Выяснилось, что ее система Rekognition не способна различить пол чернокожих людей, и поэтому сильно уступает по возможностям аналогам от Microsoft и других компаний. В конце января компания Amazon снова оказалась в центре скандала, связанного с ее искусственным интеллектом для распознавания лиц. Логичным способом решения проблемы было бы использование более качественных обучающих данных, но исследователи из лаборатории искусственного интеллекта Массачусетского университета придумали более действенный способ.

Исследователи не обещают, что такой способ даст 100% результат, но количество ошибок явно станет меньше. Стало известно, что они разрабатывают алгоритм, который автоматически избавляет наборы обучающих данных от фотографий, которые могут привести к ошибке при распознавании людей с темной кожей. Технология также снизит время обучения — использование больших объемов данных сильно замедляло процесс. Об этом свидетельствуют внутренние тесты ученых: искусственный интеллект стал на 60% менее предвзятым, и при этом не утратил точность распознавания.

Он все чаще используется полицией, поэтому даже маленькая ошибка алгоритма может стать причиной того, что в тюрьму может быть посажен совершенно невиновный человек. Отсутствие предвзятости — очень важная характеристика для искусственного интеллекта. Многим людям не нравится повсеместное использование систем распознавания лиц, но если они и будут использоваться — важно, чтобы они работали максимально точно.

Например, во время чемпионата мира по футболу 2018 алгоритм распознавания лиц был внедрен в московскую станцию метро «Фрунзенская». Они уже используются даже в России. Он стал первым преступником, который был пойман при помощи системы распознавания лиц. Благодаря ей, полиция смогла быстро обнаружить человека, находящегося в розыске за грабеж. Ее стоимость, кстати, оценивается в 4 миллиарда рублей.

Добро пожаловать в комментарии или в наш Telegram-чат, где сотни участников всегда рады пообщаться на тему науки и технологий! Хотите поговорить на тему систем распознавания лиц?

Теги
Показать больше

Похожие статьи

Добавить комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *

Кнопка «Наверх»
Закрыть