Главная » Хабрахабр » “Человеческое, слишком человеческое” Не станем ли мы заложниками нашего разума, реализуя универсальный ИИ?

“Человеческое, слишком человеческое” Не станем ли мы заложниками нашего разума, реализуя универсальный ИИ?

Почему-то они считают, что мыслящие машины, будучи созданными, сразу же решат многие наши проблемы и приведут к технологической сингулярности. Многие учёные и инженеры имеют неоправданно завышенные ожидания к искусственному разуму. Однако, такой образ мыслей является заблуждением.

Примечание. Я намеренно не использую слово «интеллект», ибо под ним обычно разумеется способность к анализу проблем и принятию решений на основе шаблонов, без осознания процесса. В указанном значении интеллект присущ и программе Maple, решающей сложные уравнения, и пчёлам, способным к обучению и сложному поведению, и многим иным животным. Взамен я буду использовать слово «разум», говоря про мыслящие машины уровня человека.

Нужен. А нужен ли вообще нам искусственный разум? Более того – «голый» интеллект не способен сам сформулировать проблему! Увы, «голый» интеллект решает слишком узкий класс проблем, причём порой весьма неэффективно. Человек решает проблему творчески – он генерирует новые решения, причём используя намного меньшие ресурсы!
Например, возьмём игру в шахматы, – машина решает проблему не творчески, затрачивая немалые ресурсы и используя различные алгоритмы, заложенные в неё инженерами.

1

Вернёмся к нашей проблеме. Скорее всего первый искусственный разум будет создан по образцу человеческого. Ибо мы всё ещё не знаем, как работает сознание, и единственный пока доступный нам способ конструирования искусственного разума – это копирование человеческого. Иными словами созданные нами мыслящие машины будут моделировать человеческий мозг. И это очень важное обстоятельство накладывает серьёзные ограничения на наши ожидания.

Мы ждём от него прорывов в медицине и биологии, физике и космологии, социологии и психологии. Дело в том, что мы планируем ставить перед искусственным разумом творческие задачи. Иными словами, мы верим, что он сможет создавать новые знания (в широком смысле – включая искусство и науку). Более того, мы верим, что он будет способен писать книги, сочинять музыку, рисовать картины. Они действительно нормальны, ибо большинство и определяет норму. Но большинство взрослых здоровых нормальных людей ничем подобным не занимаются!

И вполне возможно, что искусственный разум, обладая сознанием, просто не захочет заниматься всем этим заранее на него возложенным творчеством. Будучи создан на основе усреднённого человеческого, искусственный разум ничем не будет отличаться от него, кроме потенциально неограниченных ресурсов. Он может получить любую информацию, накопленную человечеством, за несколько секунд. Ведь современный человек имеет неограниченные ресурсы по сравнению со своим предком из каменного века. Большая часть информационной индустрии работает на развлечения. Но при этом она мало кому нужна, кроме учёных и инженеров. Так было и будет всегда, независимо от объёма доступных ресурсов (при условии, что человеческая природа останется прежней).

Конечно, потребление информации само по себе творческий процесс, требующий некоей креативности, как, впрочем, и жизнь в современном мире. Таким образом творчество – скорее аномалия, чем норма. Тем не менее, такая креативность на бытовом уровне нужна в целях выживания и мало похожа на изучение Вселенной или написание музыки.

Если человеку не интересна музыка, он не будет ею заниматься, как бы не был лёгок процесс. Например, появление музыкальных обучающих программ облегчило жизнь начинающих музыкантов, но не увеличило их число. Аналогично, какие бы вычислительные ресурсы не были у мыслящей машины, если ей не интересна проблема человеческого старения, она не будет её решать.

Например, можно запрограммировать искусственный разум так, чтобы он решал нужные нам проблемы. Впрочем, было высказано несколько идей, как обойти подобные затруднения. Однако, пока мы не узнаем, как работает наш и вообще любой разум, пока мы не поймём, какие изменения нужно внести в работу мозга на низком уровне, чтобы вызвать интерес к музыке, мы не сможем влиять на наш мозг и, соответственно, на его компьютерную модель.

Это, безусловно, более реалистичная идея, но, по-прежнему, не реализуемая в рамках сегодняшних знаний. Ну, хорошо, сказали бы оппоненты, мы ещё не можем запрограммировать разум напрямую, но можем воспитать нужную нам личность. (Причём воспитание само является формой высокоуровнего программирования!)

2

Есть не менее важная проблема о которой как правило не говорят – а зря. Проблема заключается в человеческой природе. Человек – животное, а для животного нормально получать физические удовольствия и размножаться. И каждый, кто проводит свою жизнь, создавая новые знания, вместо того, чтобы зарабатывать много денег наименьшими усилиями и получать больше физического удовольствия, может считаться «безумным». В психиатрии не считается нормальным, когда одна идея захватывает разум человека на протяжении многих лет. И многие талантливые люди действительно безумны или имеют иные психические проблемы. Конечно, такие люди получают удовольствие от своего творческого процесса, проблема в том, что он может быть опасен для их разума или жизни. Как впрочем и сами творческие люди порой опасны для окружающих.

Всё, вокруг нас создано учёными и инженерами, художниками и музыкантами, писателями и прочими творческими безумцами, посвятившими себя изменению мира, порой в ущерб своей жизни! Вся наша цивилизация построена «безумными» людьми! И всё же к «безумным гениям» более или менее привыкли, и контролировать уязвимого человека легче, чем машину, а вверили бы вы свои жизни мощному искусственному разуму, если хоть немного сомневаетесь в его вменяемости?

И не являются ли психические проблемы неотъемлемой частью любого творческого процесса? Вполне возможно, в ближайшее время мы научимся конструировать реально креативные мыслящие машины, но не будут ли они столь же безумны, как и их человеческие прототипы? Вопросы, на которые мы ещё не знаем ответа.

3

Иными словами у искусственного разума возникнут такие же проблемы, как и у человеческого разума. Как избежать их? Нам нужна универсальная теория разума, разъясняющая принципы функционирования любого – или, по крайней мере, человеческого – разума. Лишь зная принципы работы разума мы сможем проектировать умные машины, не путём слепого копирования, не путём проб и ошибок, а путём целенаправленного проектирования. Мы возьмём за основу человеческий разум и улучшим его или вообще перепроектируем его заново. При помощи такой теории мы можем улучшить и свой разум.

Нынешняя аэрокосмическая инженерия – пример нашего хорошего понимания законов физики. Сравните первые неуклюжие самолёты и нынешние авиалайнеры или военные F-35! Инженеры не копируют крыло птицы, они рассчитывают нужные параметры, применяя законы физики.

Увы, в разработке искусственного разума всё немного иначе – у нас ещё нет универсальной теории как, впрочем, и попыток её построения, – а значит впереди ещё немало проб и ошибок, и времени.


Оставить комментарий

Ваш email нигде не будет показан
Обязательные для заполнения поля помечены *

*

x

Ещё Hi-Tech Интересное!

[Перевод] Введение в ptrace или инъекция кода в sshd ради веселья

Конечно, это несколько искусственная задача, так как есть множество других, более эффективных, способов достичь желаемого (и с гораздо меньшей вероятностью получить SEGV), однако, мне показалось клёвым сделать именно так. Цель, которой я задался, была весьма проста: узнать введённый в sshd ...

Дайджест свежих материалов из мира фронтенда за последнюю неделю №339 (12 — 18 ноября 2018)

Предлагаем вашему вниманию подборку с ссылками на новые материалы из области фронтенда и около него.     Медиа    |    Веб-разработка    |    CSS    |    Javascript    |    Браузеры    |    Занимательное Медиа • Подкаст «Frontend Weekend» #79 – Олег Поляков об основании CodeDojo и о том, как это стало основным местом работы• Подкаст «Пятиминутка React» ...