Главная » Hi-Tech » Загадочный «совет по этике» DeepMind возьмет под контроль общий ИИ, если тот появится

Загадочный «совет по этике» DeepMind возьмет под контроль общий ИИ, если тот появится

Однако новый репортаж Хала Ходсона из The Economist проливает свет на то, как появился совет по этике и для чего он нужен. Совет по этике DeepMind был тщательно охраняемым секретом с тех пор, как Google приобрела эту  компанию по разработке искусственного интеллекта в 2014 году. Он пишет, что DeepMind и Google подписали «Соглашение о проверке этики и безопасности», составленное юристами в Лондоне за год до покупки компании.

Чем занимается совет по этике DeepMind

В этом соглашении говорится, что если DeepMind когда-либо преуспеет в своей основной задаче построения общего искусственного интеллекта (AGI) — под которым иногда понимают машину, способную успешно выполнить любую интеллектуальную задачу, которую может выполнить человек — контроль над этой машиной будет принадлежать тем, кто входит в состав руководящего совета — Совета по этике.

Совет по этике, по сути, позволяет DeepMind юридически поддерживать определенный уровень контроля над технологиями, которые он создает, независимо от того, насколько ценными или опасными они становятся.

Стоит также отметить, что машина с общий искусственным интеллектом может и не захотеть слушать тех, кто ее «контролирует».

Несмотря на неоднократные запросы, DeepMind так и не раскрыл, кто входит в Совет по этике, однако The Economist называет всех трех основателей DeepMind (Демис Хассабис, Мустафа Сулейман и Шейн Легг).

И добавил: «Мы всегда говорили, что он будет в значительной степени сосредоточен на полноценных обучающихся системах общего назначения, и я думаю, что это очень и очень далекая перспектива. В декабре 2016 года Сулейман заявил на конференции TechCrunch, что «совет по этике работает и ему приходится наблюдать за рядом наших инициатив изнутри». Мы внедряем множество механизмов на месте, которые сосредоточены на ближайших последствиях». Мы на расстоянии десятков лет от тех рисков, которые изначально предусматривал совет.

Это один из компонентов всего аппарата». За год до этого на конференции, состоявшейся в лондонском офисе Bloomberg в 2015 году, Сулейман сказал: «Мы обнародуем имена, но это еще не все.

DeepMind часто называют одним из лидеров гонки ИИ, вместе с Facebook, Microsoft, OpenAI, Baidu и несколькими другими компаниями.

Назвать их всемогущими и всесильными нельзя, и пройдет еще много лет, прежде чем ситуация изменится. Но пока что системы искусственного интеллекта способны побеждать людей лишь в некоторых играх, а также выполнять другие нишевые задачи в определенных областях.

А что думаете вы? DeepMind на комментарии не ответила. Расскажите в нашем чате в Телеграме.


Оставить комментарий

Ваш email нигде не будет показан
Обязательные для заполнения поля помечены *

*

x

Ещё Hi-Tech Интересное!

Фото: лучший аэропорт мира Singapore Changi с водопадом и парком внутри

Фото: лучший аэропорт мира Singapore Changi с водопадом и парком внутри — Офлайн на vc.ru Свежее Вакансии Написать Уведомлений пока нет Пишите хорошие статьи, комментируйте,и здесь станет не так пусто Войти Сингапурский аэропорт получал премию лучшего в мире аэропорта семь ...

Отказ от финансовых целей и работа без отдела продаж: история развития агентства из Уфы Rechi Media

Основатель компании Роман Чермянин — о построении агентства без опыта и работе с федеральными клиентами. В закладки Как всё начиналось Будучи студентами архитектурного факультета, мы с Тимуром Якуповым сделали несколько SMM-проектов и вдохновились идеей оказывать рекламные услуги для малого бизнеса. ...