Hi-TechСофт

Создан алгоритм, который мешает системе распознавания лиц

Специально для этих целей и был создан алгоритм, который нарушает работу системы распознавания, не разрешая ей вторгаться в частную жизнь. Технология распознавания лиц, вне всяких сомнений, является полезной и нужной разработкой, но при всех своих достоинствах она может нести и вред, нарушая свободу человека и позволяя проводить слежку за ним.

Сам же алгоритм использует динамические способы разрушения алгоритмов распознавания. Новая система построена на основе глубокого машинного обучения, а значит способна самосовершенствоваться в будущем. Один работал для идентификации лиц, а другой пытался ее нарушить. Для разработки системы противодействия ученые использовали два ИИ, которые боролись друг с другом. Как заявил автор работы профессор Пархам Аараби, Результатом этой «войны» стало создание особого фильтра (пока только для фотографий), который заменяет определенные пиксели на изображениях таким образом, что человеческий глаз не может увидеть разницы, а вот система распознавания лиц дает сбой.

И из-за этого конфиденциальность — реальная проблема». «Сейчас алгоритмы нейронных сетей постоянно совершенствуются и по одному изображению могут узнать очень многое о человеке.

В итоге выяснилось, что система способна снижать долю распознанных лиц со 100% до 0,5%. Профессор Аараби протестировал свое изобретение на фотографиях 600 людей различной этнической и гендерной принадлежности. В ходе исследования был обнаружен довольно приятный бонус: система не просто мешает алгоритму распознавать лица, но и не дает считывать цвет кожи, этническую принадлежность, пол, мимику и так далее, делая фото «просто картинкой» для алгоритма распознавания. Но это еще не все.

Теги
Показать больше

Похожие статьи

Добавить комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *

Кнопка «Наверх»
Закрыть