Хабрахабр

Искусственный интеллект вступил в дебаты с людьми, и убедил, что он не опасен

Защитником выступала машина Project Debater, разработанная IBM. В Кембридже прошли двухчасовые дебаты по поводу потенциальной опасности искусственного интеллекта. Используя свои аргументы и разбивая доводы оппонентов, ей удалось доказать аудитории, что в итоге AI принесёт обществу больше пользы, чем вреда.

Оно принимало сотни мировых лидеров и известных ученых с диспутами по поводу политики, истории или культуры. Дискуссия проходила в Cambridge Union, обществе дебатов с 200-летней историей. Но такой гость был у общества впервые: двухметровая черная панель, говорящая роботизированным женским голосом.

Так она научилась распознавать, какие доводы работают лучше других, и как можно построить веское доказательство. Модель Project Debater тренировалась на более чем 30 000 аргументах, оцененных людьми-рецензентами по уровню их убедительности. Ноам Слоним, руководитель проекта в IBM, говорит, одна из идей дальнейшего исследования теперь – разобрать эту модель и понять, почему люди считают одни аргументы более убедительными, чем другие.

Перед дебатами машина разобрала более 1100 аргументов и вопросов об AI, присланных на сайт IBM за неделю до мероприятия. Сейчас Project Debater хранит базу из 400 млн статей, которые он может интерпретировать своими словами, обсуждая около 100 разных тем. Некоторые аргументы были отброшены как не относящиеся к дискуссии. Она определила 570 из них в категорию «За», и 511 в категорию «Против».

Машина использовала AI с распознаванием речи для выслушивания и анализа аргументов её оппонентов. Робот выступал сразу за обе позиции, плюс ему помогали по два человека с каждой стороны, дополняя аргументы или задавая вопросы. Каждый раз это занимало несколько минут, но зато Project Debater отвечал по сути, непосредственно на поднятые вопросы.

Она начала со стороны «против»: Довольно ироничной получилось вступительное слово машины.

Он не сможет принять морально правильное решение в новой ситуации. Искусственный интеллект может принести человечеству много вреда. Потому что наличие морали – уникальная черта человека.

Пару раз она повторила один и тот же довод – например, говоря о возможностях AI выполнять скучные и повторяющиеся задачи. Роботесса говорила четко и последовательно, но всё же несколько ляпов случилось. Несколько раз машина не приводила доводов в поддержку своих теорий вообще, как будто считая свои слова фактами.

Ещё, описывая потенциальные пользы AI, машина как будто запуталась, за какую сторону она сейчас выступает, и стала противоречить сама себе:

В сферах заботы о пациентах или обучения детей – необходимости в людях здесь больше не будет.
Искусственный интеллект создаст новые рабочие места, даст людям больше креативных занятий, повысит эффективность работы.

Из трёхсот людей в аудитории за неё проголосовало 51,22%. По итогам сторона «За AI» победила.

ИИ был отключен от интернета, на подготовку отводилось 15 минут, большое внимание уделялось опровержению аргументов соперника. До этого в феврале Project Debater уже вступал в спор с людьми – соревнуясь с Харишем Натарджаном, рекордсменом-дебатером, считающимся одним из лучших в мире в сфере дебатов, финалист Чемпионата мира-2016. Аудитория решила, что, хотя точность и насыщенность информации у AI были выше, человек говорил более пламенно, и в целом звучал убедительнее. Тогда машина потерпела поражение.

Сейчас системе шесть лет. Команда IBM стала разрабатывать Project Debater после победы компьютера компании Watson над участниками телевикторины Jeopardy (американская «Своя игра»). По их словам, за последние полгода машина показала очень хороший рост, и теперь готова дискутировать с кем угодно.

Она переваривает огромные массы текстов, строит хорошо структурированную речь на заданную тему, четко её подает и опровергает доводы своего оппонента. Project Debater – первая AI-система, которая умеет переубеждать людей по самым сложным вопросам. В конце концов, такая машина поможет людям рассуждать, предоставляя убедительные, основанные на фактах доводы, и отбросив эмоции.

Машина быстро определяет, аргументы за какую сторону приводит тот или иной человек. В планах IBM – использовать искусственный интеллект для сбора мнений от большого количества людей, например, на конференциях или политических ралли. Правительство и большие компании смогут использовать её при опросах общественного мнения – перед принятием важных решений.

Наконец у нас появилась возможность взглянуть на вопрос непредвзято, без личных пристрастий.
Эта технология может помочь нам установить интересный и эффективный канал связи между руководителями и теми людьми, которые будут затронуты их решениями.

IBM также рассчитывает, что подобный AI поможет ей с созданием более грамотных виртуальных цифровых помощников.

Теги
Показать больше

Похожие статьи

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *

Кнопка «Наверх»
Закрыть