Хабрахабр

Руководство для модераторов Facebook: более 1400 страниц противоречивых слайдов


В руководстве объясняется какие смайлики могут рассматриваться как угрозы или, в контексте специфических групп, для разжигания ненависти

Но эта задача не такая простая, как кажется. Находясь под огнём критики, Facebook вынужден принимать меры по модерации контента. Для Facebook это в первую очередь финансовая проблема, потому что такие обвинения создают негативный фон и могут плохо отразиться на курсе акций, а значит — на благосостоянии владельцев и сотрудников компании. В СМИ попал внутренний мануал для модераторов Facebook: это более 1400 (!) страниц инструкций, в которых иногда очень сложно разобраться, пишет NY Times.
Сегодня и политики, и общественные организации обвиняют социальную сеть в разжигании ненависти и дезинформации.

Но как отслеживать миллиарды сообщений в день на более чем 100 языках, одновременно продолжая расширять пользовательскую базу, что является фундаментом для бизнеса? Facebook, который зарабатывает около $5 млрд за квартал, должна всем продемонстрировать, что серьёзно относится к борьбе с вредоносным контентом. Решение компании: сеть модераторов, которые руководствуются лабиринтом слайдов PowerPoint с объяснением запрещённого контента.

— По итогам совещаний соответствующие правила рассылаются более чем 7500 модераторам по всему миру». «Каждый вторник утром несколько десятков сотрудников Facebook собираются за завтраком, чтобы придумать новые правила и обсудить, что разрешено говорить двум миллиардам пользователей сайта, пишет NY Times. Информацию предоставил один из сотрудников, который озабочен излишней модерацией и слишком большим количеством ошибок, которые делает компания при модерации контента. В распоряжение газеты попало более 1400 страниц из сводов правил.

Очевидно, что правила различаются для разных языков и стран, в результате чего разжигающие ненависть высказывания могут процветать в одних регионах и излишне подавляться в других. Изучение документов действительно выявило многочисленные пробелы, предубеждения и явные ошибки. В Индии модераторам ошибочно сказали удалять комментарии, критикующие религию. Например, однажды модераторам однажды сказали удалить призывы к сбору средств для жертв вулкана в Индонезии, потому что один из организаторов сбора средств был в чёрном списке запрещённых групп Facebook. В Мьянме экстремистская группа в течение нескольких месяцев продолжала активность из-за ошибки в документации Facebook.


Скриншот из мануала Facebook для модераторов

Затем компания передаёт фактическую модерацию сторонним компаниям. Судя по всплывшей документации, Facebook пытается сформулировать для модераторов принципы в виде простых правил «да» или «нет». Те привлекают в основном неквалифицированных работников, многие из которых работают в колл-центрах (пресловутый «индийский саппорт» — именно такие сотрудники занимаются модерацией).

Требования к их производительности таковы, что они должны в течение нескольких секунд вспомнить бесчисленные правила и применить их к сотням сообщений, которые каждый день появляются у них на рабочем компьютере. Зачастую модераторы полагаются в работе на Google Translate. Например, быстро вспомнить правила, в присутствии какого смайлика запрещено упоминание джихада.

Модераторы должны определить три уровня «серьёзности» с учётом шести «бесчеловечных сравнений», в том числе сравнение евреев с крысами.
Скриншот из мануала Facebook для модераторов, где разъясняются признаки высказываний, разжигающих ненависть (hate speech). Общее руководство по определению высказываний, разжигающих ненависть, занимает 200 страниц

Однако руководство компании считает, что иначе никак: «У нас миллиарды сообщений в день, и мы выявляем всё больше и больше потенциальных нарушений, используя наши технические системы, — говорит Моника Бикерт (Monika Bickert), директор по глобальной политике Facebook. — В таком масштабе даже 99% точности оставляет много ошибок». Некоторые модераторы говорят, что правила не очень эффективны, а иногда бессмысленны.

Он состоит из десятков разобщённых презентаций PowerPoint и электронных таблиц Excel с бюрократическими заголовками типа «Западные Балканы ненавидят организации и личности» или «Явное насилие: стандарты реализации». Попавший в прессу мануал Facebook не похож на чёткое руководство. Facebook подтвердил подлинность документов, хотя и сказал, что некоторые из них обновились по сравнению с той версией, какая попала в распоряжение NY Times. Это некое «лоскутное одеяло» из правил, установленных разными подразделениями компании. Facebook заявляет, что файлы предназначены только для обучения, но модераторы утверждают, что они реально используются в качестве справочных материалов в повседневной работе.

Теги
Показать больше

Похожие статьи

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *

Кнопка «Наверх»
Закрыть