Hi-Tech

Робот-полицейский сбил ребёнка, дверной звонок не пустил человека в дом: к чему приводят неисправности «умной» техники

Девять историй людей, которые столкнулись со сбоями в работе устройств, и советы юристов и экспертов рынка о том, как защититься от технических угроз и что делать, если ущерб уже нанесён.

В закладки

Сбой в системе климат-контроля

О том, что произошло, рассказали сами супруги на странице в Facebook. Весной 2016 года семья Вольмерт из штата Техас потеряла свою полуторагодовалую дочь Сэм.

Наутро, поднимаясь по лестнице к комнате Сэм, Ларри Вольмерт почувствовал жар, повеявший со второго этажа. Уложив Сэм спать, Керри Вольмерт включила систему отопления, которая должна была поддерживать температуру в 23°C в детской комнате. Войдя в детскую, он обнаружил свою дочь мёртвой.

У ребёнка случился перегрев. Ночью в системе обогрева произошёл сбой, и температура в помещении поднялась до 38°C. По словам врача, из-за физиологических особенностей дети перегреваются значительно быстрее взрослых, поэтому шансов выжить в таких условиях у них меньше.

Семья Вольмертов не подозревала, чем может грозить обычная система климат-контроля, и теперь призывает родителей не полагаться на одно «умное» решение для дома, а дополнительно устанавливать радионяню, оснащённую датчиком температуры и сигнализацией.

Вне зависимости от того, что вы приобрели: холодильник или «умный» обогреватель, после покупки вы несёте все риски. Если речь не идёт о системах, которые могут представлять опасность для пользователя, все эксплуатационные риски лежат на потребителях.

Похожая история и с программным продуктом: если завтра у вас внезапно начнёт обновляться Windows, и из-за этого не получится поработать, вы не сможете потребовать компенсацию ущерба.

Тут уже может появиться ответственность у производителя и организации, которая эту технику устанавливала.
Этот подход не применим к устройствам, которые могут быть опасны, например, если во время пожара не сработала система сигнализации.

А если механических повреждений не было и система просто не сработала — это другое.
В случае со сбоем «умной» системы в доме, пострадавшим нужно доказать вину поставщика: если устройство вышло из строя только потому, что, например, вода на неё накапала и контакт перемкнуло — это одна история.

При этом на Западе и в России разные практики: у нас размеры компенсации морального вреда несоизмеримо меньше, чем, скажем, в Калифорнии. Но доказательство вины третьего лица, — того, кто произвёл, продал, установил, — требует большой технической компетенции, потребуются дорогостоящие экспертизы.

А в России в аналогичной ситуации размер компенсации будет в тысячи раз меньше. Например, если разбилась Tesla, компенсация пострадавшему будет выражаться в семизначных суммах, может и больше. Если вообще будет.

Поэтому пострадавшим от техники я бы не рекомендовал обращаться за компенсацией, но привлечь к уголовной ответственности поставщика необходимо, чтобы из-за него не пострадал кто-нибудь ещё.

Евгений Царев

судебный эксперт RTM Group

Взлом радионяни

К нему обратился российский предприниматель с просьбой найти злоумышленников, взломавших видеокамеру в его доме. В начале 2019 года основатель компании в сфере кибербезопасности Group-IB Илья Сачков рассказал «Российской газете» о хакерах, которые взламывали радионяни, а потом пугали с их помощью детей.

Хакеры ищут такие камеры с помощью специального сканера, подключаются к ним дистанционно и могут не только шпионить, но и воспроизводить различные звуки или музыку через динамик. Камера, призванная следить за ребёнком и няней, была подключена напрямую к интернету со стандартными заводскими настройками — логином admin и таким же паролем.

Родители узнали об этом и обратились к киберкриминалистам, которые поставили маршрутизатор. Злоумышленники заговорили с ребёнком с помощью радионяни. Они перенастроили точки доступа и провели анализ радионяни.

Специалисты из Group-IB рекомендуют в первую очередь после покупки роутера или маршрутизатора менять заводские пароли и выбирать более сложные и надёжные комбинации символов, а также помнить, что если в устройстве есть микрофон и видеокамера, значит всё, что он записывает, может оказаться у третьих лиц.

Зачастую пользователи не заморачиваются сменой паролей и установкой хоть сколько-нибудь сложных комбинаций. Стандартный набор рекомендаций, связанных с интернет-безопасностью, включает в себя в первую очередь ограничение доступа к устройствам. К сожалению, это причина большинства взломов.

В-третьих, многие бренды используют открытые протоколы, без защиты, поэтому важно выбирать надёжных производителей с хорошей репутацией.
Во-вторых, обезопасить себя поможет установка антивирусов и firewall.

Но поскольку эта сфера возникла недавно, сейчас она проходит стандартный период «детских болезней»: мы сталкиваемся с множеством сбоев, на которых будем учиться. Всё это должно входить в практику так же, как и личная гигиена.

Любые устройства, которые сложнее лампочки, могут содержать массу ошибок, и не всегда разработчики выявляют все уязвимости, но со временем мы научимся с ними бороться.

Люди склонны принимать какие-то массовые сбои за угрозы со стороны сознания техники или винить в каких-то происшествиях устройства, но я не отношусь серьёзно к прогнозам о восстании машин и не считаю, что техника как-то вредит человеку.

Главное — не терять голову и сохранять здравый смысл, поручая технике такие критически важные вещи, как здоровье или жизнь человека.

Артём Козлов

генеральный директор компании по производству «умных» счётчиков «Югрэй»

Подглядывание через видеоняню

Об этом на своей странице в Facebook рассказала молодая мама Джейми Саммит. В Южной Каролине в мае 2018 года злоумышленники взломали камеру Fredi, предназначенную для наблюдения за ребёнком, чтобы подглядывать за грудным вскармливанием.

Также камерой можно было управлять дистанционно, например поворачивать её на 360°. Видеоняня, купленная на Amazon за $40, позволяла наблюдать за ребёнком одновременно нескольким людям, установившим приложение и подключившимся к устройству через интернет.

Видеоняня Fredi

Объектив остановился напротив места, где Саммит обычно кормила младенца грудью. Однажды Джейми Саммит заметила, как камера начала поворачиваться. Увидев, что на кровати никого нет, хакер повернул камеру обратно к колыбели.

Он действительно подключался к камере, чтобы понаблюдать за сыном. Всякий раз, когда видеоняня меняла положение, женщина думала, что устройством управляет муж. Но именно в этот день Кевин Саммит не заходил в приложение.

По словам женщины, хакер всё слышал и видел полицейского. Женщина выключила устройство и вызвала полицию, но, когда сотрудник стал наблюдать за действиями видеоняни, приложение заблокировало семью Саммит с сообщением: «Недостаточно прав доступа».

Тогда она поделилась своей историей в Facebook, чтобы предостеречь других пользователей от недобросовестного производителя. Саммит пыталась дозвониться производителям устройства, но в компании не брали трубку. Надёжный пароль, по словам Саммит, от взлома не защитил.

Если владелец дома после подключения системы не меняет пароли, что происходит в большинстве случаев, то роботы-программы действительно могут их взломать. Камеры наблюдения на российском рынке в массе своей китайские, с однотипными паролями. Важно здесь и то, что у простых коробочных решений пароль собственника — единственный уровень защиты.

Сюда входят: шифрование, идентификация пользователя по паролю, отпечатку пальца, IP-адресу, MAC-адресу, индивидуальным настройкам системы, известным только хозяину. У профессионального же решения для «умного» дома должно быть до шести ступеней защиты.

Самые продвинутые используют доступ по сетчатке глаза, по распознаванию лица, по «секретной кнопке» (сочетанию действий в приложении, которое знает только собственник).

Гарантий, что сбой не повторится, вам никто дать не сможет, поэтому нужно менять поставщика технологий. И если система уже допустила критичный сбой, то единственное решение — полностью заменить оборудование и программное обеспечение.

Чтобы застраховать себя от взломов, нужно выбирать производителя устройства осмысленно, вникать в тонкости внедрения и не пренебрегать требованиями по самостоятельной защите своей безопасности.

Сергей Грибанов

генеральный директор компании Insyte Electronics, производителя оборудования для создания «умных» домов

Cбой в работе «умного» дверного звонка

Американец установил у входной двери новую разработку Google — «умный» звонок Nest Hello со встроенным микрофоном и динамиком, которые позволяют хозяину общаться с гостем, стоящим у порога. В сентябре 2018 года в Twitter появилась запись жителя Джорджии Би Джей Мэя, который не мог войти в свой дом. Также гаджет оснащён датчиком и камерой, блокирующими двери от незнакомцев, пытающихся войти в дом.

My @nest doorbell automatically locks the front door when it sees a face it doesn't recognize. Today it didn't recognize me, so I went into the app to investigate and... https://t.co/qcgE4Ii1pn

8883

35330

Би Джей Мэй открыл мобильное приложение, чтобы прояснить ситуацию, и увидел, что гаджет принял его за Бэтмена. Неожиданно устройство дало сбой и заблокировало замки, не распознав хозяина дома. Камера зафиксировала не лицо Би Джей Мэя, а принт на его футболке с персонажем DC.

Однако устройством пользуются и дети Мэя, ради которых он и установил «умный звонок» — он считает, что потеря ключей может обернуться куда большими проблемами. Сбой в распознавании объекта не причинил вреда владельцу: с помощью PIN-кода он сумел войти в дом.

При этом не все могут обеспечить достойное качество. Распознавание лиц — очень востребованная история, поэтому многие компании предлагают свои решения. Отсюда и сбои при изменении внешних данных жильцов дома: в надетой шапке или при отрощенной бороде, например.

Интегратор должен сначала попробовать все максимально возможные варианты внешнего вида жильцов и убедиться, что всё работает корректно. Хозяину дома, если он решил внедрить систему распознавания через камеры или домофон, следует внимательно отнестись к тестам программы.

Сергей Грибанов

генеральный директор компании Insyte Electronics, производителя оборудования для создания «умных» домов

Ошибка GPS-навигатора

Так, весной 2016 года 23-летняя жительница Канады, следуя указаниям GPS-навигатора, заехала прямо в озеро. Случаев ошибок в GPS-системах известно довольно много. По данным канадской газеты Toronto Sun, водитель Toyota Yaris держала путь туманной ночью в условиях недостаточной видимости.

Автомобиль полностью погрузился в воду не сразу: девушке хватило времени опустить стекло, взять сумку и доплыть до берега. Около полуночи навигатор направил её к спуску для лодок в залив Джорджиан-Бей озера Гурон. Выбравшись на сушу, пострадавшая отправилась в ближайшую гостиницу и вызвала полицию.

По сообщениям BBC News, родители девочки, находясь за рулём Vauxhall Astra, следовали ложным подсказкам навигатора и, не заметив запрещающий дорожный знак, выехали на полосу встречного движения, где их автомобиль врезался в Audi A5. В 2010 году GPS-навигатор стал причиной ДТП, в котором погиб четырёхлетний ребёнок.

Девочку доставили в больницу, она скончалась через несколько часов. Удар пришёлся именно на ту сторону, где находился ребёнок.

С одной стороны, за «умные» устройства ответственны предприниматели, которые их реализуют. Вопрос, кто будет нести ответственность в случае причинения вреда машиной человеку, пока остаётся дискуссионным. С другой — разработчики, задающие определённые параметры, на основе которых искусственный интеллект принимает решения и совершает действия.

Можно допустить, что суд признает непрогнозируемые решения искусственного интеллекта форс-мажором, и тогда никто из вовлечённых в процесс реализации такого товара не будет нести ответственность.

Как правило, производители не несут ответственность за неправильное использование устройства и за повреждения, вызванные несоблюдением техники безопасности. Чтобы обезопасить себя, владельцам «умных» устройств следует внимательно читать блок ответственности изготовителя за предлагаемый вам товар.

Это вполне целесообразно, но если производитель полностью снимает с себя ответственность, лучше отказаться от покупки такого устройства либо направить протокол разногласий к заключаемому договору, чтобы ваши права и интересы были учтены.

Если программное обеспечение уже взломали или инновационная разработка дала сбой, следует немедленно обратиться в правоохранительные органы (следственный комитет, прокуратура) и написать заявление о случившемся.

Затем подать гражданский иск в суд за причинение вреда. Также не лишним будет направить претензию продавцу и изготовителю «умного» устройства с требованием возместить все затраты.

Злоумышленники, которые совершили взлом, наказываются лишением свободы сроком до семи лет. Если суд признает производителя или продавца виновными, максимальный срок лишения свободы составит два года за причинение смерти по неосторожности, за причинение тяжкого вреда здоровью по неосторожности — арест до шести месяцев.

Кристина Овчинникова

старший юрист отдела IP (IT) в компании «Зарцын и партнёры»

Робот-полицейский сбил человека

Мальчик получил ушибы и царапины. В 2016 году в Стэнфордском торговом центре в Калифорнии бот весом около 136 кг сбил с ног полуторагодовалого ребёнка, после чего проехался по нему сверху.

Он оснащён различными датчиками, тепловыми сенсорами, лазерным дальномером, камерами с круговым обзором и используется в торговых центрах и полицейских участках, чтобы следить за порядком и сообщать о подозрительных действиях. Разработанный в 2015 году стартапом Knightscope из Кремниевой долины робот К5 полностью автономен.

Неполадка в работе робота Amazon

В замкнутом помещении аэрозоль выделил газ, от которого пострадали 24 сотрудника компании. Другой бот, «работающий» в распределительном центре компании Amazon в Нью-Джерси, порвал баллончик с 250 мл репеллента для отпугивания медведей.

Как сообщают в Amazon, все пострадавшие вернулись к работе в течение суток. Они были госпитализированы и прошли лечение в местных больницах.

Затем обратиться к производителю ПО или техники и установить причины сбоя. В первую очередь пострадавшему нужно зафиксировать причинённый вред здоровью в любом медучреждении. Нужно собрать максимум информации о том, что произошло, какой вред был причинён и как эти события связаны между собой.

Если только какая-нибудь «умная» мясорубка не искромсала своего хозяина и полиция не зафиксировала этот факт. Ведь в случае судебного разбирательства доказать, что именно технический сбой виноват в произошедшем, будет сверхсложно.

Кстати, обращаться в таких ситуациях в полицию можно только тогда, когда есть подозрения, что техника ведёт себя неадекватно именно из-за взлома, но я думаю, что полиция не отреагирует, потому что просто не знает как.

Проблема в том, что в нашей стране даже за смерть близких в ДТП присваивают копеечные компенсации. Собрав доказательства, потерпевший может обратиться в суд и рассчитывать на возмещение морального вреда или расходов на лечение. А в ситуации с программным сбоем я даже предположить не могу, какой мизерный размер компенсации может назначить суд.

И это одна из причин, по которой люди избегают судебного разбирательства — оно будет стоить недёшево при минимуме отдачи.

Михаил Шевцов

руководитель юридической компании «Шевцов.ру»

Приложение-контрацептив не спасло от 37 абортов

Первое в мире приложение, признанное Управлением по санитарному надзору за качеством пищевых продуктов и медикаментов США средством для контрацепции, обвинили в неэффективности.

Оформив годовую подписку, пользователь получает термометр, который измеряет температуру с точностью до сотых долей. Разработка шведского физика Элины Берглунд, приложение Natural Cycles, позволяет женщинам следить за фертильностью с помощью температурного метода.

По повышению базальной температуры на 0,25–0,5 градуса Natural Cycles выявляет период овуляции. Её необходимо измерять сразу после пробуждения и ежедневно вносить данные в приложение. Объявленная эффективность приложения — 93% при стандартном использовании, 97% при «идеальном».

Однако в январе 2018 года сотрудники Стокгольмского Южного госпиталя подали жалобу на цифровой контрацептив в госорганы, сообщив, что из 668 женщин, обратившихся за услугой прерывания беременности с сентября 2017 года, 37 использовали Natural Cycles.

Государственное фармацевтическое управление Швеции провело проверку, но в итоге специалисты пришли к заключению, что эффективность работы приложения отвечает заявленным компанией 93%.

Браслет, не позвонивший в службу спасения

Несколькими месяцами ранее его бабушка умерла от инсульта у себя дома. В конце 2018 года в Twitter английского технологического журналиста Холли Броквелл появилась публикация с историей пользователя, обратившегося за юридическими советами.

Женщину через пару дней обнаружила уборщица, рядом с покойной лежал специальный браслет, который должен был сообщить экстренным службам и семье владельца об ухудшении состояния здоровья.

Увидев гаджет, внучка покойной обыскала дом и выяснила, что женщина заплатила 1600 фунтов стерлингов (около $2000) за систему оповещения, которая по какой-то причине не работала.

Сайт компании был недоступен, но уведомлений о прекращении работы стартапа не было. На протяжении недели британка пыталась дозвониться в компанию, поставляющую систему оповещения, но ни один номер телефона не отвечал. Беспокоясь за здоровье других клиентов, она обратилась за советом: что можно предпринять в такой ситуации.

История о браслете с системой оповещения говорит нам, что обезопасить себя от таких ситуаций можно только при тщательном выборе поставщика технологий с репутацией, опытом работы, положительными отзывами.

Например, устройства, которые передают данные по наземному интернету и дублируют по 3G, 4G. Обращайте внимание и на то, что у качественных решений всегда есть дублирующие каналы передачи информации.

Сергей Грибанов

генеральный директор компании Insyte Electronics, производителя оборудования для создания «умных» домов

С точки зрения наших реалий такая ситуация невозможна: ни один стартап не сможет обеспечить направление сигналов в службу спасения в России, так как это исключительно сфера государственного влияния.

Наши законы не позволяют пользовательскому оборудованию как-то взаимодействовать со службой спасения, кроме обычных звонков на короткие номера телефонов.

Более того, нужно понимать, что такого рода техника, спустившаяся до класса потребительских устройств (пульсомеры, тонометры и тому подобное), всегда имеет предупреждение: она не заменяет звонок в экстренные службы, как не заменит врача и специализированное медицинское оборудование.

Михаил Шевцов

руководитель юридической компании «Шевцов.ру»

#умныйдом #iot

Показать больше

Похожие статьи

Добавить комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *

Кнопка «Наверх»
Закрыть