Hi-Tech

Протесты в Google и Microsoft в 2019 году: от каких разработок призывали отказаться сотрудники и чего добились

Руководители Microsoft мягко настояли на своём и продолжили работу над проектами для военных, а Google пришлось свернуть «цензурный» поисковик для Китая.

В закладки

Протесты в Microsoft

Возмущения сотрудников связаны с военными контрактами компании: разработкой специальной версии гарнитуры дополненной реальности HoloLens и десятилетним контрактом с Пентагоном на облачные услуги.

«Облака» для Пентагона — проект JEDI

9 октября 2018 года корпоративный вице-президент Microsoft Azure Джулия Уайт опубликовала в блоге компании официальное письмо о том, как облачные сервисы и технологии искусственного интеллекта помогут в работе правительственных служб.

Она указала: Microsoft готова бороться с Amazon, Oracle, IBM и другими корпорациями за контракт стоимостью $10 млрд на разработку облачного сервиса JEDI с применением технологий ИИ для Пентагона.

JEDI призвана заменить плохо интегрированные и устаревшие компьютерные сети и облака американских военных на единую облачную систему, охватывающую все направления — от армии до авиации и флота. 26 октября 2019 года Microsoft выиграла контракт, по которому должна разработать единое облако JEDI (Joint Enterprise Defense Infrastructure Cloud) для военных подразделений США.

Microsoft удалось обойти Amazon, основного претендента на JEDI, во многом благодаря конфликту Дональда Трампа и главы Amazon Джеффа Безоса, пишет TechCrunch.

Amazon могла выиграть контракт, так как облачный сервис компании доминирует на рынке облачных услуг, полностью удовлетворяет требованиям контракта, а Amazon ранее сотрудничала с ЦРУ, считает Forbes.

Контракт на JEDI Microsoft открывает новые варианты сотрудничества с властями: компания может поработать над облачными сервисами для других правительственных подразделений.

Компания станет основным поставщиком офисных продуктов через сервис Office 365, размещённый в облаке Azure. Также Microsoft в конце августа 2019 года стала одним из победителей другого контракта для Министерства обороны — Defense Enterprise Office Solutions (DEOS) общей стоимостью $7,6 млрд.

Военные AR-очки IVAS

Компания займётся разработкой прототипа боевой системы IVAS на базе гарнитуры HoloLens. В ноябре 2018 года Microsoft выиграла контракт для Армии США стоимостью $479 млн.

По контракту военные могут закупить более 100 тысяч гарнитур, призванных «повысить летальность за счёт улучшенных возможностей по выявлению, определению и участию в боевых действиях», если разработка и тестирование пройдут успешно.

Представитель Microsoft после победы заявил, что технологии дополненной реальности помогут армии получить больше данных для быстрого принятия решений, а контракт укрепит отношения Microsoft с Министерством обороны в новых областях.

Военная версия HoloLens будет отличаться от потребительской — по контракту устройство должно поддерживать активацию ночного видения, тепловизор, контроль жизненно важных показателей бойца: дыхания и потенциального сотрясения мозга, а также защищать от громких звуков.

Microsoft должна выпустить 2500 гарнитур в течение двух лет и продемонстрировать возможность полномасштабного производства тысяч новых устройств.

Поездку организовало подразделение Futures, которое занимается сотрудничеством армии с технологическими стартапами и корпорациями. В апреле 2019 года журналисты CNBC протестировали прототип IVAS вместе с солдатами.

Апрельская версия IVAS напомнила журналистам интерфейс Call of Duty и других шутеров: гарнитура показывает мини-карту местности с местоположением бойцов группы, врагов, компас с метками, активирует тепловизор и очки ночного видения в случае сильного задымления, а также цифровой прицел.

Команда учебного центра анализирует, что видит солдат, а после учений бойцы могут посмотреть в IVAS отчёт о своих действиях. Военные планируют использовать IVAS и за пределами боевых действий: для сбора данных о солдатах на тренировках на «виртуальных врагах».

С её помощью армия провела «виртуальную спецоперацию», во время которой военные: В ноябре 2019 года журналисты Business Insider рассказали о второй версии IVAS.

  • Использовали трёхмерные карты в дополненной реальности.
  • Фотографировали секретные документы на поле боя.
  • Автоматически переводили надписи и речь с русского на английский.
  • Определяли личности врагов.
  • Использовали ночное видение и режим бинокля.
  • Использовали виртуальный прицел для более быстрого и точного наведения на врага.

На лето 2020 года запланирован третий прототип — более эргономичный, прочный и защищенный от непогоды. По словам журналистов Business Insider, IVAS 2 питается от носимой батареи, заряда хватает на шесть-восемь часов.

Реакция сотрудников и ответ руководства

Протест против IVAS: «Мы не подписывались на разработку оружия»

Сотрудники заявили: они «встревожены, что Microsoft помогает военным повысить летальность с помощью инструментов, разработанных инженерами компании». 23 февраля 2019 года около 250 сотрудников Microsoft опубликовали открытое письмо в адрес гендиректора компании Сатьи Наделлы и юрисконсульта Microsoft Брэда Смита.

По их словам, они «не подписывались на разработку оружия» и потребовали право голоса при использовании результатов их труда. Работники призвали отменить контракт по IVAS, создать ясную политику работы над подобными проектами и независимый совет по внешней этике.

Сотрудники считали, что IVAS в первую очередь помогает убивать и превращать войну в имитацию видеоигры, отдаляя солдат от реальности.

Разработчики Hololens полагали, что технология будет использоваться для помощи архитекторам и инженерам, улучшения видеоигр и общения с другими людьми.

Проектирование зданий, операции на сердце…

Дополненной реальностью пользуются автопроизводители, врачи, строители и инженеры NASA.

vc.ru

Также авторы письма посчитали, что предложение Microsoft перейти на другую работу в компании, если сотрудник считает проект неэтичным, игнорирует проблему, а не решает её.

По его словам, прислушиваться к мнению сотрудников очень важно, но компания «приняла принципиальное решение не утаивать технологии от институтов, которые выбрали в демократических странах, чтобы защитить свободы, которыми пользуемся». 25 февраля Сатья Наделла ответил на письмо протестующих в разговоре с CNN и выступил в защиту контракта.

Он пообещал продолжить диалог с сотрудниками и быть предельно открытым.

Протест против JEDI: «Невозможно узнать, что мы будем создавать»

17 октября 2019 года после письма вице-президента Microsoft Azure Джулии Уайт анонимные сотрудники отправили коллективное письмо руководству корпорации с призывом не участвовать в тендере JEDI по этическим соображениям.

Также в JEDI используются технологии искусственного интеллекта, а значит, контракт попадает под действие документа The Future Computed, в которой Microsoft описала этические принципы разработки ИИ. По мнению протестующих, из-за секретности контракта непонятно, над чем придётся работать инженерам, но это поможет в военных действиях.

Они призвали отказаться от JEDI так, как это сделала Google, поскольку технологии для JEDI могут не соответствовать принципам Microsoft по развитию ИИ, а компания «предаст эти принципы в погоне за краткосрочной прибылью». Сотрудники считают, что JEDI должен быть проанализирован комитетом по этике ИИ, созданным в Microsoft.

Когда они устроились на работу в Microsoft, они не ожидали, что «целью их работы будут убийства и повышение летальности оружия». Также сотрудники попросили коллег из Amazon и других компаний принять их позицию и спрашивать у руководства, где будет применяться разработка и соответствует ли это их принципам.

По его словам, работа в этом направлении основана на трёх принципах: 26 октября 2018 года вице-президент Microsoft Брэд Смит подробно рассказал о принципах сотрудничества Microsoft с военными.

  1. Компания верит в сильную оборону США и хочет, чтобы люди, которые защищают страну, могли получить доступ к лучшим технологиям, в том числе от Microsoft.
  2. Компания понимает важность новых этических и политических вопросов, связанных с использованием искусственного интеллекта в военных разработках, и будет использовать свои знания и возможности для их решения «в рамках гражданских и демократических процессов».
  3. Компания понимает, что у сотрудников могут быть разные взгляды на происходящее, и не ожидает, что её позицию займут все, поэтому предлагает помощь в переходе в другое подразделение Microsoft, если сотрудник не желает работать над чем-то, что ему не нравится вне зависимости от причин.

Смит заявил, что Microsoft работает с Министерством обороны США более 40 лет, так как военные рискуют своими жизнями для защиты страны и помощи людям во всем мире, и компания хочет «прикрыть их спины» и предоставить доступ к лучшим технологиям.

Брэд Смит ​CNBC

Также Microsoft намеренно сотрудничает с военными, чтобы иметь возможность решать этические вопросы по использованию технологий, выступать в качестве экспертов со стороны ИТ-компаний и участвовать в публичных диалогах с правительством.

Он повторил слова о поддержке технологиями правительственных подразделений США, как и в случае с Hololens, и напомнил, что это — принципиальная позиция компании. Также участие в тендере JEDI прокомментировал Сатья Наделла.

Наделла признал: не все сотрудники Microsoft могут согласиться с подписанными контрактами, а «руководящей команде нужно чётко понимать принципы, принятые решения и быть откровенными в их отношении».

С сентября 2019 года активисты Microsoft занимаются вопросами окружающей среды и протестом против контракта дочерней компании GitHub с иммиграционными и таможенными органами США. Протестующие сотрудники Microsoft не предпринимали дальнейших активных действий по военным контрактам.

Сотрудники Google против китайской версии поисковика с цензурой

Но к 2018 году в Китае сформировался новый мобильный рынок с аудиторией в 788 млн пользователей, и американские фирмы стали активнее интересоваться развитием бизнеса в стране. С 2010 года Google не работает на территории Китая — компания отказалась цензурировать результаты поиска и закрыла бизнес в стране.

Сайт не обрабатывает поисковые запросы, а перенаправляет их в Baidu — основному конкуренту Google в Китае. В августе 2018 года издание The Intercept рассказало об использовании Google купленного в 2008 году сайта 265.com для отслеживания поисковых запросов жителей Китая.

Данные о запросах 265.com Google использовала для создания инструмента BeaconTower, проверяющего, какие результаты поиска в Google могут быть заблокированы китайской системой цензуры.

Инструмент стал основой для создания Dragonfly — мобильного сервиса, который автоматически удаляет из выдачи сайты, заблокированные китайским файрволом.

По задумке разработчиков Google цензура должна была работать везде: в изображениях, переводчике, проверке орфографии.

Dragonfly умел удалять неприемлемый контент о политзаключенных, протестах и демократии, а внутри движка был чёрный список с ключевыми темами и словами.

Данные Dragonfly подстраивал под нужды китайского правительства: погодный сервис занижал данные о выбросах веществ в атмосферу, чтобы скрыть загрязнение окружающей среды.

Разработка Dragonfly была секретной и анонимной — над ней трудились около 100 человек, которые изначально скрывали проект из-за его несоответствия моральным и этическим нормам Google.

15 октября 2018 года гендиректор Google Сундар Пичаи официально подтвердил запуск поисковой системы в Китае, объяснив это важностью китайского рынка и «многообещающими» внутренними тестами.

Китайская дилемма Google: история разработки…

Google отказалась от принципа «не быть злым» и хочет вернуться на китайский рынок с «цензурным…

vc.ru

Протесты и закрытие проекта Dragonfly

По их мнению, компания зацензуренной версией сервиса нарушила собственные правила и принципы. Первые протесты сотрудников Google начались 16 августа 2018 года после публикации The Intercept.

Под письмом подписались около 1000 сотрудников. Они потребовали от руководства раскрыть информацию о Dragonfly, чтобы оценить этические последствия своей работы.

Они написали открытое письмо Сундару Пичаи, призвав его к открытому и честному диалогу и соблюдению прав человека. 28 августа 2018 года к сотрудникам Google присоединилась коалиция из 14 ведущих правозащитных организаций.

Глава поиска Google Бен Гомез сказал BBC, что «компания только исследует возможности, но так как планов запускать нет, то и говорить не о чем». До октября 2018 года Google не признавала, что работает над запуском поискового сервиса в Китае.

По информации The Intercept, 18 июля Гомез общался с сотрудниками, задействованными в разработке Dragonfly, и обозначил, что запуск поисковой системы может произойти в течение шести-девяти месяцев.

Он призывал Google немедленно прекратить работу над проектом, чтобы «не усиливать цензуру Коммунистической партии и не ставить под угрозу частную жизнь китайских клиентов». 4 октября 2018 года к протесту присоединился вице-президент США Майк Пенс.

В ноябре открытое письмо руководству написали более 600 сотрудников Google, подчеркнув, что большинство из них устроилось на работу, зная ценности компании и её прошлую позицию относительно цензуры.

Для поддержки уволившихся сотрудников протестующие собрали $200 тысяч в «фонд забастовки». Также из Google начали увольняться в знак протеста: бывший научный сотрудник компании Джек Полсон призвал руководство открыто объяснить свою позицию, а не уводить вопросы в сторону.

В декабре 2018 года гендиректора Google Сундара Пичаи пригласили для дачи показаний в Конгресс.

По информации Intercept, компания сделала это по нескольким причинам: резкой отрицательной реакции сотрудников и утечке данных о проекте — из-за неё к работе над проектом подключилась команда конфиденциальности, которая защищает права пользователей. 17 июля 2019 года Google официально закрыла проект Dragonfly.

Участники этой команды раскритиковали проект и добились отмены работы с данными сервиса 265.com, после которого продолжать работу над Dragonfly было трудно.

Показать больше

Похожие статьи

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *

Кнопка «Наверх»
Закрыть