Главная » Хабрахабр » [Перевод] Марвин Мински «The Emotion Machine»: Глава 5 «Рефлексивное мышление, самоанализ, рефлексия»

[Перевод] Марвин Мински «The Emotion Machine»: Глава 5 «Рефлексивное мышление, самоанализ, рефлексия»

Как привнести «человеческое» в технологии и как технологии помогают понять и улучшить и масштабировать «человеческое»?

В этом нам поможет суровый Марвин Мински, который своим беспощадным разумом анализирует чувства, эмоции, боль, влюбленность и сознание.

image

§5-4. Рефлексивное Мышление

Прежде чем я начал, моё внимание было сосредоточено на цельной картине, но как только я начал говорить и отдаляться от начала разговора и данный момент начал растягиваться в памяти. Я собирался повторить псалом, который знаю. Тем не менее моё внимание всё время находилось со мной в настоящем, и через него я переносил будущее, которое тут же становилось прошлым.
– Августин в Исповеди XXVIII (Confessions XXVIII) Моё действие разделилось на память, которая содержала ту часть, которую я сказал, и ожидания, которые содержали то, что я собираюсь сказать далее.

image

Когда Джоан впервые увидела приближающуюся машину – эта ситуация полностью захватила её внимание, но после этого, когда у неё появилось время подумать, она могла вспомнить, что недавно сделала и задуматься о недавних решениях и действиях, таким образом,

Джоан рефлексивно обдумывает своё поспешное решение.

Но как она может это сделать? Для того чтобы она могла это сделать, Джоан должна вспомнить некоторые аспекты её прошлых мыслей, используя трюк подобный перемещению во времени, и вспомнить о чем она тогда думала. Но когда мы спрашиваем, как конкретно это может работать, мы понимаем, что нам необходимо определённого рода механизм, наподобие обсуждаемого в §4-8, в котором ресурсы на каждом уровне записывают то, чем занимались нижележащие уровни в конкретное время. С точки зрения здравого смысла в этом действии нет никаких проблем: стоит попросту вспомнить эти мысли, а затем «продумать» их вновь.

image

В любом случае, нет ничего странного в обнаружении каких-либо событий, которые происходят в нашем мозге. Многие части мозга делают это постоянно, и только некоторые из них имеют внешние соединения которые, к примеру, принимают сигналы от глаз и кожи, или же которые передают сигналы вашим конечностям. Более того, было бы гораздо легче развивать те ресурсы, которые бы выявляли какие-либо события в новых частях мозга (например, к таковым относится уровень задумчивости), чем создавать новые ресурсы, которые бы записывали какие-либо события окружающего мира – потому что наша сенсорная система является более сложной (благодаря эволюции, которая протекала в течение сотен миллионов лет).

Может ли добавление дополнительного «когнитивного уровня» дать подобное необходимое улучшение? Как могли бы мы спроектировать машину, которая могла бы рефлексивно оценивать свои действия? Например Джоан может вспомнить какой выбор она делала и просмотреть как она его сделала. В самом деле это так – потому что система обсуждения ваших недавних мыслей может использовать такие же процессы, которые вы используете для обсуждения недавних событий окружающего мира.

Но этот выбор был неправильным, потому что моя ловкость была снижена из-за повреждённого колена, поэтому я должна была изменить свои приоритеты. Я решила, что опоздание будет гораздо хуже, чем риск быть сбитой машиной, потому что этот результат крайне маловероятен.

В эти активности должны входить предсказания, которые были ошибочны, планы, которые встретили препятствия, или неудачи в получении необходимых вам знаний. Какие же активности мозга должна учитывать система рефлексирования? Мы подробно обсудим этот вопрос в главе 7. Как вы должны реагировать на это?

Она включает в себя большинство пунктов, которые вы перечислили в §4-1, а именно: кратковременную память, последовательную обработку, высокоуровневые описания. Студент: Почему мы бы хотели назвать такую машину «сознательной»? Этой машине всего-то не хватает моделей самой себя.

Однако, пока у мозга не будет модели, которая позволяла бы представлять подобные события на больших масштабах, машина не будет иметь никаких представлений о себе как о самосознающей сущности. Ем лучше некоторые части мозга могут размышлять о том, что происходит в остальной части мозга, тем больше будет степень «обдумывания» того, что происходит внутри него. В главе 9 мы обсудим и заключим, что если мы хотим создать нечто похожее на человеческий мозг – то мы должны будем сделать не какую-то одну «унифицированную» модель, а набор неполных моделей, каждая из которых знала бы только некоторые аспекты того, что делает вся система. Тем не менее, было бы крайне непрактично для системы иметь подробный взгляд на саму себя как на что-то единое целое.

§5-5. Самоанализ

«Ещё одна из величайших способностей человека, которая фундаментально отличает его от других животных – это наличие самосознание или же рефлексивного знания себя как мыслителя… [в то время как животное] никогда не осознаёт себя как мыслителя, потому что они не могут различить в конкретном акте мышления элемент мысли и операцию, посредством которых они мыслят»
— Уильям Джеймс.

image

Самоанализ делает немного больше: он рассматривает не только прошлые мысли, но и сущность, которая эти мысли имела. Рефлективная система, которую мы уже обсуждали ранее, может рассуждать о недавно произошедших событиях. Чтобы она могла сделать такие выводы, Джоан должна использовать некоторые собственные представления моделей самой себя. Например, когда Джоан размышляла о себе: «Если бы моё колено подвело бы меня – я была бы мертва», она теперь, по сути, оценивает себя: «Было безрассудно рисковать при такой травме, просто чтобы спасти немного времени!».

Было глупо совершать подобные ошибки. Кэрол также должна иметь подобные модели когда она строила арку из блоков: «Я попробовала несколько путей построения арки, но все они были неудачными, потому что я пыталась это сделать в ограниченном пространстве. В следующий раз, я постараюсь планировать более детально.» В этом примере ребёнок представляет себя как объект с определёнными целями и возможностями, который использует конкретные знания.

Студент: Разве нет парадокса в идее, когда что-то описывает самого себя?

Система, конечно, потерпит неудачу, если она попытается описать себя в «реальном времени», но у неё это получится, если представление будет формироваться с помощью набора значений, каждое из которых отражает какую-то одну сущность этой системы.

Так или иначе, крайне мало людей когда-либо могло это сделать. Мистик: Некоторые из нас могут натренироваться воспринимать все детали сразу же.

Вместо этого, я подозреваю, что это чувство полной осведомлённости проистекает из способности человека не задавать вопросы о своём состоянии постоянно, что даёт некоторую иллюзию знания всех ответов на вопросы. Я очень сомневаюсь, что это возможно.

Например, как в §5-3, когда Кэрол говорила: «Возможно, я помню эти другие события, и попросту их повторила вновь.» Но как и когда эти записи были сделаны, где и как они сохранились и возникли в памяти, и какой процесс может организовать эти процессы? В любом случае, наше размышление о собственных мыслях должны основываться на записях или каких-то других следах, то есть на частичных описаниях предыдущих психических состояний. Что означает, когда человек говорит, что сбит с толку, смущён или запутан? Как Кэрол может распознать, что совершила глупую ошибку, и как Джоан могла вспомнить, что она не знала стоит ли пересечь улицу или нет?

Это говорит о том, что вы переключаетесь с актуальной проблемы на более масштабное представление самого себя, своих мотивов и целей, с высоты которого вы можете распознать, что тратите время на незначительные вещи, или же потеряли нить того, что вы пытались делать, или даже что вы выбрали неверную цель, которую преследуете в данный момент времени. Подумайте насколько умным нужно быть, чтобы знать о том, что вы сбиты с толку (или же знать, что вы не сбиты с толку). Возможно настало время бросить это дело.» Это всё может привести вас к созданию лучшего плана, или же это может привести к широкомасштабному каскаду, например: «Даже мысль об этом заставлять меня страдать.

Например, нормальный человек обычно идет без всякой мысли о том, насколько сложна ходьба. Мне кажется, это ключ к вопросу о том, когда мы вовлекаем более высокие уровни мышления: мы это делаем, когда наши обычные системы не справляются с возложенными на них задачами и тогда на передний план выступает рефлексивное мышление. Но когда колено Джоан перестанет функционировать, она станет изучать, как она двигается, что заставит её действовать более осторожно.

Любая попытка оценки себя грозит изменить эту систему, если не полностью сломать её. Тем не менее, как мы отметили в §4-1, самоанализ имеет свои лимиты и риски. Поэтому вы почти наверняка запутаетесь, если начнёте думать о том, что думаете сейчас, и это, вероятно, именно та причина, почему мы так озадачены тем, что мы называем сознанием. Трудно описать вещь, которая продолжает менять свои формы перед глазами, и, конечно же, ещё сложнее описать что-либо, что меняет свою форму когда вы об этом что-то думаете.

§5-6. Самосознательная Рефлексия

Мы находим человеческие лица на луне, армии в облаках, и благодаря природной склонности, если не корректировкой опытом и рефлексией, приписываем злобу или доброту всему, что причиняет нам боль или радует»
— Дэвид Юм «Имеется глобальна тенденция человечества оценивать всех окружающих существ наподобие людей, и отражать на каждый объект те качества, с которыми человек знаком и которые глубоко осознаются.

Это глава впервые обсуждалась в §1-4, описывая инстинктивные реакции; они включают в себя системы ответственные за кормление, дыхание, и другие функции, поддерживающие в живых наш мозг и тело. Они также включают в себя некоторые механизмы, которые изредка называются первородными эмоциями – а именно системы, которые отражают различные состояния физических нужд, таких как питание, защита и тому подобное. Уровень изученных реакций включает в себя расширения, которые изучаются после рождения. Уровни Осознания и Отражения предназначены для решения более сложных проблем. Саморефлексия возникает, когда эти проблемы требуют от нас задействовать созданные нами модели, или наш взгляд на возможное будущее.

К примеру, когда Джоан задавала себе вопрос: «Что же мои друзья подумали бы обо мне?», она задаётся вопросом, соотносятся ли её цели с её конкретными действиями. Тем не менее, в дополнении к этому, кажется, что люди являются уникальны в том смысле, что имеют уровень самосознательной рефлексии, который позволяет нам думать о наших «высших» идеалах и целях. В любом случае, она находит конфликт между тем как она действует, и ценностями тех к кому она привязана, что может привести к целому каскаду реакций, которые мы можем охарактеризовать как «самосознательные эмоции», которые обсуждались в §2-2. Затем Джоан может прийти к заключению: «Мои друзья могли бы сказать, что я совершенно неосторожна, и не беспокоюсь ни о себе, ни о них.» Для того, чтобы она могла думать подобные мысли, Джоан должна была построить модели, которые бы описывали то, как её друзья могли бы среагировать, или же могла вспомнить прошлый негативный опыт, когда её друзья так реагировали, когда она попала в схожую ситуацию. Итак, давайте добавим ещё один уровень, и рассмотрим получившуюся систему как «Модель Шести».

image

Например, когда вы размышляете над своими недавними мыслями, разве вы просто не обсуждаете свои обсуждения? Психолог: Я не вижу четких отличий между различными уровнями этой модели. Кажется, что все уровни выше первого используют одинаковые системы мышления. И аналогично, разве не является саморефлексия видом обычной рефлексии?

Даже ваши самые простые обсуждения могут включать в себя своеобразные саморефлексивные мысли о том как распределить ваше время и ресурсы, например: «Если предпринятый способ не сработает, то я попробую другой способ», или же «Я уже потратил слишком много времени на это». Я согласен, что эти границы являются нечёткими.

В теории недолжно содержаться больше вещей, чем необходимо. Философ: Но если эти уровни нечётко различимы, какой смысл различать их?

Однако, я полагаю, что этот подход затормозил развитие психологии. Эта политика нахождения простейшей теории, которая бы отвечала на конкретные вопросы, которые вы задаёте работала невероятно хорошо в физике. Наиболее старые теории в психологии дали объяснение только тому, как определённые животные ведут себя в невероятно простых окружающих средах. Ибо, когда вы знаете, что ваша теория неполна, вы должны оставить определённое место для расширения вашей неполной теории. Тем не менее, хотя эти теории и были позднее усовершенствованы для дачи хороших прогнозов, ни одна из старых теория бихевиоризма не могла объяснить, как мыслящие люди могут проводить рефлексию не имея никакого внешнего поведения.

Однако, когда некоторые из этих клеток начинают мигрировать (напрявляясь тысячами различных генов), это приводит к созданию тысяч и тысяч связей между этими кластерами клеток, и ранее выраженные уровни становятся «размытыми». Мы знаем, что мозг имеет сотни специализированных участков, и развитие каждого мозга начинает с небольшого скопления клеток, которые упорядочиваются по уровням.

Это было бы также бесполезно, как и четко очерчивать границу семи морей. Это означает, что мы не сможем чётко разделить все функции мозга на чёткие и отдельные уровни разума. Точно также, нам необходимо несколько моделей мозга, для объяснения некоторых феноменов разума. Вместо этого, каждое из наших ведомств разделяет морское пространство исходя из различных противоречивых назначений, например геофизических, экологических и политических. Например, нам может потребоваться более сложные теории о том, как работает самосознательная рефлексия, хотя бы из-за связи этого феномена с религиозными, правовыми и этическими вопросами.

Где находится Я, которые принимает все решения? Индивидуалист: Ваша диаграмма не показывает части, которая бы контролировала все остальные. Как мы выбираем каких планов придерживаться, и как мы контролируем их исполнение? Что определяет цели, которые я преследую?

В противном случае она бы не видела направлений – и невольно бы пропускала различные необходимые вещи. Эти вопросы показывают настоящую дилемму: никакая сложная система наподобие вышеописанной не может функционировать без организованного контроля. Поэтому в слудющих главах этой книги будут обсуждены несколько способов, которые использует наш мозг для самостоятельного контроля. С другой стороны, нет никакого смысла создавать управление в одном месте, потому что сбой в нём поверг бы всю систему в хаос. Мы рассмотри их детальнее в главе §9.

В то время касаемо вопроса о центральном управлении, следует отметить, что «Модель Шести» также можно было увидеть в модели «уме-сэндвиче» Зигмунда Фрейда, которая разделяла разум на 3 части.

image

«Эго», в такм случае, является этими частями, которые находятся посередине – Сознательным и Отражающим уровнями. Фрейдиское «Оно» состоит из инстинктивных побуждений, а «Суперэго» воплощает наши идеалы (многие из которых являются запретами). В таком случае, человек может видеть своё эго как набор различных контролируемых вещей, в то время как для психотерапевта «Эго» будет полем битвы. Принцип «Эго», по мнению Фрейда, состоит в разрешении конфликтов между «Оно» и «Суперэго».

Можно ли использовать слово «сознание» касаемо этой машины? Студент: Я хотел бы повторить вопрос, который задавал ранее. Мне кажется, что «Модель Шести» включает в себя все основные функции, которые вы обсуждали в главе §4-1, а именно, кратковременная память, последовательная обработка, высокоуровневые объяснения и набор моделей самого себя.

Такое может случится, если, как мы предположим в главе §9, её высшие уровни могли бы представить её «Я» как единую, самосознающую сущность. Меня бы не удивило, что такая машина, получившая необходимые знания, заявила бы, что является таким же сознательным существом как и мы. И, конечно, другие уровни могли бы не согласиться с этим высшим уровнем.

В оставшейся части этой главы будут рассказаны подробные сведения о том, как могло возникнуть наше воображение, исходя из различных уровней обработки окружающей информации. Эта глава началась с вопросов о том, как мы можем обдумывать вещи и идеи, с которыми никогда ранее не встречались.

За перевод спасибо Станиславу Суханицкому. Кто хочет помочь с переводом — пишите в личку или на почту magisterludi2016@yandex.ru

Оглавление книги The Emotion Machine

Введение

Chapter 1. Falling in Love

Chapter 2. ATTACHMENTS AND GOALS

Chapter 3. FROM PAIN TO SUFFERING

Chapter 4. CONSCIOUSNESS
Chapter 5. LEVELS OF MENTAL ACTIVITIES
Chapter 6. COMMON SENSE
Chapter 7. Thinking.
Chapter 8. Resourcefulness.
Chapter 9. The Self.

Об авторе

image

Marvin Lee Minsky; 9 августа 1927 — 24 января 2016) — американский учёный в области искусственного интеллекта, сооснователь Лаборатории искусственного интеллекта в Массачусетском технологическом институте. Марвин Ли Минский (англ. [Википедия]

Интересные факты:

  • Минский дружил с критиком Харольдом Блумом из Йельского университета (Yale University), который отзывался о нём не иначе как «зловещий Марвин Минский».
  • Айзек Азимов описывал Минского как одного из двух людей, которые умнее, чем он сам; вторым, по его мнению, был Карл Саган.
  • Марвин — робот с искусственным интеллектом из цикла романов Дугласа Адамса Автостопом по галактике и фильма Автостопом по галактике (фильм).
  • Минский имеет контракт на заморозку своего мозга после смерти для того, чтобы его «воскресили» в будущем.
  • В честь Минского назван пес главного героя в фильме Трон: Наследие. [Википедия]

Про #philtech

image

И удовлетворяющие принципам филтеха: #philtech (технологии + филантропия) — это открытые публично описанные технологии, выравнивающие уровень жизни максимально возможного количества людей за счёт создания прозрачных платформ для взаимодействия и доступа к данным и знаниям.

Открытые и копируемые, а не конкурентно-проприетарные.
2. 1. Устойчивые и перспективо-ориентированные, а не преследующие локальную выгоду.
4. Построенные на принципах самоорганизации и горизонтального взаимодействия.
3. Ненасильственные и неманипуляционные.
6. Построенные на [открытых] данных, а не традициях и убеждениях
5. Инклюзивные, и не работающие на одну группу людей за счёт других.

Второй поток: март–июнь 2018. Акселератор социальных технологических стартапов PhilTech — программа интенсивного развития проектов ранних стадий, направленных на выравнивание доступа к информации, ресурсам и возможностям.

Чат в Telegram
Сообщество людей, развивающих филтех-проекты или просто заинтересованных в теме технологий для социального сектора.

#philtech news
Телеграм-канал с новостями о проектах в идеологии #philtech и ссылками на полезные материалы.

Подписаться на еженедельную рассылку


Оставить комментарий

Ваш email нигде не будет показан
Обязательные для заполнения поля помечены *

*

x

Ещё Hi-Tech Интересное!

Микроинтеракции в iOS. Лекция Яндекса

Несколько недель назад в офисе Яндекса прошло специальное мероприятие сообщества CocoaHeads — более масштабное, чем традиционные митапы. Разработчик Антон Сергеев выступил на этой встрече и рассказал о модели микроинтеракций, которой обычно пользуются UX-дизайнеры, а также о том, как применить заложенные ...

Пишем загрузчик ПЛИС в LabVIEW. Часть 2

Часть 1 Загрузка конфигурации в ПЛИС через USB или разбираем FTDI MPSSEПишем загрузчик ПЛИС в LabVIEW. В этот раз мы познакомимся с новыми приемами работы в LabVIEW, разберем особенности обработки ошибок и завершим проект: реализуем протокол загрузки файла конфигурации в ...