Главная » Хабрахабр » Security Week 17: восстание машин

Security Week 17: восстание машин

Прошлая неделя была богата новостями на тему искусственного интеллекта. Начнем с сообщения издания The Information о прогрессе в расследовании смертельного ДТП с автономно управляемым автомобилем Uber. ДТП произошло в марте в Аризоне: погибшая в аварии переходила дорогу в неположенном месте, и даже если бы назначенный следить за роботами водитель-наблюдатель не клевал носом, вовремя отреагировать он не успел бы. Но ведь на то и нужны всякие сенсоры: они по идее и в темноте лучше видят, и реагируют быстрее. По данным The Information, датчики действительно обнаружили женщину относительно вовремя, но софтом было принято решение какое-то время не реагировать на объект — с целью борьбы с ложными срабатываниями.

Да и слишком просто это звучит: «ложные срабатывания». Заметку The Information стоит делить на десять: пока официально в Uber не стали ничего подтверждать или опровергать, информация поступила из анонимных источников. Может ли оптимизация кода приводить к человеческим жертвам? Вроде бы автопилот настраивается так, чтобы игнорировать предметы типа летающих пакетов и бордюрных столбиков, иначе получится не автономная езда, а сплошное мучение с постоянными попытками объезда несуществующих препятствий и резкими торможениями. Почему нет-то?
На конференции Google I/O также было немало анонсов, связанных с искусственным интеллектом. В этом случае непонятно, но вообще, наверное, да. Например, был показан умный помощник для написания писем в GMail.

Если честно, выглядит страшновато: ты, может, еще не решил, о чем будешь писать письмо, а Google уже знает! Я, конечно, понимаю желание сервисных вендоров вставить машинно-обучаемые алгоритмы куда только можно, но, может, с письмами мы как-нибудь сами справимся? Или нет? Возможно, реальный прогресс действительно должен немного пугать, иначе это и не прогресс вовсе. Автомобили с автопилотом, смартфоны, способные предвосхищать действия и желания пользователя — все это наверняка сделает нашу жизнь удобнее, но одновременно ограничит возможности непосредственного контроля над устройствами и сервисами. И добавит новые риски безопасности, о которых мы пока еще не знаем, и узнавать будем, видимо, только опытным путем.

Еще одно применение ИИ: распознавалка предметов встроенной фотокамерой.

Железо для ИИ потребуется мощное, и далеко не факт, что абсолютно все получится централизовать. На конференции Red Hat Summit директор Red Hat по искусственному интеллекту обозначил еще одну особенность массового развития и внедрения машинно-обучаемых систем. В случае тех же автономных машин это может привести к появлению в багажнике вашего автомобиля очень мощного компьютера. Это может дать новый стимул развитию целого спектра аппаратных решений: от процессоров с повышенной мощностью в пересчете на одно ядро до видеокарт и кастомных вычислительных систем. Данных будет так много, что никаких облачных систем не хватит. Хотя вы не сможете запустить на нем Crysis, технологии искусственного интеллекта могут развернуть тенденцию хранения абсолютно всех ваших данных где-то «в облаке». С точки зрения безопасности и приватности, это, наверное, хорошая новость.

Самый важный багфикс на Google I/O.

Буквально через сутки после анонса исследователь Чарльз Дардаман опубликовал proof of concept по встраиванию в Excel майнера криповалюты. Одной строкой
А вот на конференции Build компания Microsoft рассказала о поддержке языка JavaScript в Microsoft Excel. Вот только там его и не хватало.

Взлом компьютеров через RDP и маскировка вредоносного процесса с помощью приема клонирования системных процессов Windows. Интересное исследование вымогателя SynAck от «Лаборатории Касперского».

Дорогая редакция вообще рекомендует относиться к любым мнениям со здоровым скептицизмом. Disclaimer: Мнения, изложенные в этом дайджесте, могут не всегда совпадать с официальной позицией «Лаборатории Касперского».


Оставить комментарий

Ваш email нигде не будет показан
Обязательные для заполнения поля помечены *

*

x

Ещё Hi-Tech Интересное!

Newman и Continuous Integration на примере Atlassian Bamboo. Изобретение велосипеда

Введение Научившись писать функциональные тесты, и написав их порядка полутора сотен, мы решили, что настало то самое время — время прикрутить эти тесты к нашим CI-сборочкам. В недавней статье наш боевой товарищ actopolus рассказал о том, как мы научились применять ...

«Невозможная» ретро игра

Технологии отстают от идей. Иногда текущего уровня развития видеокарт, шлемов VR и другого «железа» не хватает для реализации задуманной игры. Но бывает и обратная ситуация: концепция игры выглядит очень заманчиво, хочется поиграть прямо сейчас, а вот технологий для ее реализации ...