ИгрыХабрахабр

[Перевод] Какое лицо реально?

Видеть сквозь иллюзии сфабрикованного мира

«В интернете никто не знает, что ты собака»

Карикатура запечатлела радикальные изменения в характере человеческих взаимодействий, которые только начинались в 1993 году, изменения, которые не только радуют своими возможностями, но и пугают по той же причине. Так говорит собака, сидящая за компьютером на карикатуре Питера Штайнера в еженедельнике «Нью-Йоркер» 1993 года.

Случайным незнакомцем в Интернете может быть кто угодно и где угодно. За последние четверть века мы все усвоили «урок собаки». Четырнадцатилетняя девушка в чате может быть полицейским под прикрытием. Опытный импресарио на музыкальном форуме может быть ребенком в подвале его мамы. Африканская нефтяная наследница в твоих входящих сообщениях, несомненно, мошенница.

Мы предполагаем, что изображение должно иметь реальный источник и мы склонны доверять изображениям. Но в то время как мы научились не доверять именам и текстам, с изображениями всё по другому. Человек на фотографии, на сайте знакомств, может оказаться на 10 килограмм тяжелее или на 10 лет старше, но если фотография есть, человек, очевидно, существует. Бизнес-профиль с фотографией явно принадлежит кому-то.

Новые алгоритмы машинного обучения позволяют быстро создавать синтетические «фотографии» людей, которых никогда не было. Но это уже не так.

Если вы знаете, что искать, вы можете заметить эти подделки одним взглядом (по крайней мере, на данный момент). Компьютеры хороши, но способность визуальной обработки вашего мозга еще лучше. Аппаратное и программное обеспечение, используемое для их генерации, будет продолжать совершенствоваться и может пройти всего несколько лет, пока люди не отстанут в этой гонке подделок и обнаружения.

Наша цель — дать вам понять, с какой легкостью можно подделать цифровую личность, и помочь вам обнаружить эти подделки одним взглядом.

Методика

Давайте начнем с того, что подчеркнем, что мы не являемся авторами феноменального алгоритма, используемого для создания этих лиц. Алгоритм StyleGAN (репозиторий Github), использованный для создания этих изображений, был разработан Tero Karras, Samuli Laine и Timo Aila из NVIDIA на основе более ранней работы Ian Goodfellow и его коллег по Generative Adversarial Neworks (GAN).

Программное обеспечение использует подход генеративно-состязательной сети, в котором две нейронные сети играют в кошки-мышки, одна пытается создать искусственные изображения, неотличимые от реальных фотографий, а другая пытается определить разницу. В феврале 2019 года производитель графического оборудования NVIDIA открыл код своего фотореалистичного программного обеспечения для генерации лиц — StyleGAN. Через несколько недель сеть для создания изображений может создавать изображения, подобные подделкам на этом сайте. Две сети обучают друг друга.


Алгоритм StyleGAN синтезирует фотореалистичные лица.

Сеть была обучена на изображениях из комбинации двух больших коллекций фотографий CELEBA-HQ и FFHQ. В дополнение к коду NVIDIA опубликовала веса для полностью обученной нейронной сети, чтобы пользователи могли пропустить длительный процесс обучения и сразу же начать генерировать лица. А второй 70 000 фотографий лиц, размещенных на Flickr по лицензии Creative Commons. Первый включает в себя тысячи фотографий лиц знаменитостей.

На нашем веб-сайте, в виде игры, мы представляем пары изображений: реальное из коллекции FFHQ и синтетическое, сгенерированное StyleGAN и размещенное на thispersondoesnotexist.com (веб-демонстрация системы StyleGan, для генерации нового изображения обновите страницу).

Учитесь определять поддельные лица с первого взгляда

Каким бы замечательным ни был алгоритм StyleGAN, он оставляет несколько «подсказок» в каждом изображении, которое создает. Они варьируются от изображения к изображению, не у всех есть все или даже многие из этих «глюков», но после небольшой практики вы можете научиться определять их с первого взгляда. Мы узнали многие из этих уловок из превосходного учебника, изданного Kyle McDonald в 2018 году.

  • Водяные пятна

    Такие пятна могут появляться в любом месте на изображении, но часто появляются на границе между волосами и фоном. Мы не можем ожидать, что будущие алгоритмы будут иметь эту проблему, но одна из отличительных особенностей текущего алгоритма StyleGAN заключается в том, что он, обычно, создает блестящие пятна, которые в некоторой степени похожи на водяные пятна на старых фотографических отпечатках.

  • Проблемы фона

    Нейронная сеть тренируется на лице, и не уделяет столько внимания тому, что происходит по бокам. Генерация фона изображений может пойти не так, как надо. Иногда вы просто получаете хаотичные кубические формы. В худшем случае вы получите несколько очень странных «компаньонов», как на первом рисунке ниже. А иногда фон выглядит почти как разорванная фотография.

  • Очки

    Распространенной проблемой является асимметрия. В настоящее время, алгоритмам очень сложно создавать реалистичные очки. В других случаях оправа будет просто изогнутой или неровной. Часто оправа будет иметь разные стили слева и справа.

  • Асимметрия

    В дополнение к асимметричным очкам, обратите внимание на асимметрию в волосах на лице, различные серьги в левом и правом ухе, а также различные формы воротника или ткани на левой и правой стороне. В общем, симметрия является проблемой для алгоритмов генерации лица.

  • Волосы

    Иногда на лице или где-либо еще будут отсоединённые пряди волос, как на первом изображении ниже. Волосы очень трудно сделать реалистично. Мы видим это на среднем изображении. В других случаях волосы будут слишком прямыми, с «мелированием», как выразился Kyle McDonald: «как будто кто-то размазал кучу акрила шпателем или огромной кистью». Иногда вокруг волос появляется странное свечение или ореол, как на последнем изображении.

  • Сочащаяся флуоресцентность

    Возникает одна интересная особенность: флуоресцентные цвета иногда перетекают с фона на волосы или лицо.

  • Зубы

    Часто зубы странные или асимметричные. Зубы не легко изображать. В некоторых случаях вы можете даже увидеть три резца, как на последней фотографии ниже.

Признаки того, что фотография реальна:

К ним относятся симметричные очки и серьги, настоящие спутники на фотографии и подробные фоны, особенно при наличии читаемого текста. Наконец, теперь, когда вы знаете какие вещи трудны для нейронной сети, вы можете найти признаки настоящего изображения и быть достаточно уверенными, что изображение реально.

Учитывая все это, вы можете сыграть в нашу игру.

Вы обнаружите, что, немного потренировавшись, вы сможете очень быстро обнаружить фальшивые изображения.

Теги
Показать больше

Похожие статьи

Добавить комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *

Кнопка «Наверх»
Закрыть