Hi-Tech

Этика симуляций: будут ли виртуальные люди счастливы?

Вы буквально чувствуете боль, когда персонажа бьет тролль, поджаривает дракон или убивает шаман. Если вы когда-нибудь играли в ролевые игры — будь то онлайн или старомодный двор — вы знаете, как легко привязаться к своему аватару, то есть вжиться в роль «казака-разбойника». В эссе на тему онлайн-аватаров 2013 года он предвидит время, когда мы сможем загружать свою личность в искусственную разумную симуляцию нас самих, которая сможет действовать независимо от нас и даже останется после нашей смерти. Американский социолог (и заядлый геймер) Уильям Симс Бейнбридж завел эти отношения еще дальше, создав виртуальные представления 17 почивших членов семьи.

Хотя мы с подозрением относимся к жестоким компьютерным играм, никто всерьез не считает убийством подрыв виртуального нападающего. Какого рода ответственность мы сможем возложить на этих смоделированных людей? Многие философы считают, что разум вроде нашего не обязательно должен храниться в сети нейронов нашего мозга, а мог бы существовать в разного рода материальных системах. Однако уже не абсурдно воображать, что однажды смоделированные люди будут существовать, а также обладать в некоторой степени автономией и сознанием. Если они правы, нет никаких причин полагать, почему достаточно мощные компьютеры не могли бы хранить сознание в своих микросхемах.

Убьете цифровую муху?

Какого рода жизнь мы должны стремиться сформировать? Сегодня многие нравственные философы пытаются осмыслить этику изменения человеческого населения и задаются вопросами вроде этих: какова цена человеческой жизни? Но когда речь заходит об этике обращения с моделируемыми сущностями, не совсем понятно, стоит ли нам опираться на те же логику и интуицию, которые мы применяем в нашем мире из плоти и крови. Сколько ценности мы должны вкладывать в человеческое разнообразие? Но будет ли отключение модели мозга мухи — или человека — убийством? Глубоко в душе мы чувствуем неправильным убивать собаку или даже муху. Когда «жизнь» принимает новые цифровые формы, наш собственный опыт больше не может выступать надежным нравственным спутником.

Предположим, мы научились эмулировать человеческое сознание на компьютере дешево и просто, пишет он в одной из статей. Эдриан Кент, физик-теоретик из Кембриджского университета, решил изучать эту лакуну в нравственных рассуждениях. Возможно, мы могли бы проделывать такое с настоящими людьми, сканируя их мозг в мельчайших деталях и воспроизводя их на компьютере. Нам бы хотелось дать этому виртуальному существу богатую и полезную среду для общения — жизнь, которую стоило бы прожить. Можно представить, как подобная технология «спасает» людей от смертельного заболевания; некоторые трансгуманисты видят в этом путь к бессмертному сознанию.

Теперь давайте достанем набор утилитарных нравственных принципов, представленных Джереми Бентамом в конце 18 века и впоследствии уточненных Джоном Стюартом Миллом. Конечно, все это может быть и несбыточной мечтой — но давайте допустим обратное. Или, выражаясь словами Милла, «действия оправданы пропорционально тому, насколько они несут счастье, и не оправданы, если они приводят к отсутствию счастья». Учитывая все обстоятельства, говорил Бентам, мы должны стремиться нести максимальное счастье (или «полезность») как можно большему числу людей.

Например, как мы можем измерять или сравнивать типы счастья — взвешивая ценность любви бабушки, например, на одних весах с восхищением виртуозным концертным пианистом? У принципов хорошего поведения есть много критиков. Тем не менее, большинство систем верований сегодня по умолчанию признают, что моральный компас, указывающий в сторону большего счастья, однозначно более предпочтителен, чем тот, который смотрит от него. «Даже если вы хотите принимать утилитаризм серьезно, вы не знаете, какие качества, которые вы вкладывает в расчеты, действительно имеют значения», говорит Кен.

В реальном мире такое неконтролируемое деторождение имеет очевидные недостатки. По сценарию Кента, если исходить из утилитарных  побуждений, может возникнуть мнение,что мы обязаны двигаться вперед и множить наших смоделированных, или симулированных, существ — назовем их симами — без ограничений. Но в виртуальном мире таких лимитов может и не быть. Люди будут страдать, эмоционально и экономически, имея большую семью; перенаселение уже оказывает давление на глобальные ресурсы, и так далее. Почему же, в таком случае, нельзя создать столько миров, сколько возможно, и наполнить их радостными симами? Можно создать утопию с почти не ограниченными ресурсами.

Может быть, сознательный сим попросту не будет иметь такой же внутренней ценности, как человек из плоти и крови? Наша интуиция подсказывает ответ: но зачем? Эту мысль высказывает Майкл Медери, специалист по философии сознания и этике виртуальной реальности из Университета Тулейн в Новом Орлеане, и считает, что к ней стоит отнестись серьезно.

Есть ли смысл в жизни? «В жизни человека есть мистический элемент, который заставляет нас задавать классические философские вопросы по типу: почему есть что-то, а не ничего? «Симулированный разум мог бы задаться такими вопросами, но с нашей точки зрения они будут бессмысленными, потому что это мы решили его изобрести». Обязаны ли мы жить по чести?», говорит он.

Такую возможность мы попросту не можем исключить, но тем не менее считаем эти вопросы осмысленными. Некоторые философы считают, что и мы сами можем быть подобными симулируемыми существами. Поэтому можно было бы также предположить, что и симы имеют право задаваться вопросами.

Очевидно, более эффективно было бы создавать идентичных существ — достаточно информации об одном, чтобы создать N таковых. Кент снова задает вопрос: как будет правильнее — создать популяцию идентичных существ или же совершенно разных? И почему, интересно, если нет причин полагать, что N разных особей будут счастливее, чем N идентичных. Но наши инстинкты подсказывают нам, что в разнообразии есть смысл и ценность.

«Я не могу избавиться от мысли, что вселенная с миллиардом независимых идентичных эмуляций Алисы будет менее интересной и качественной, чем вселенная с миллиардом разных индивидов», говорит он. Подход Кента заключается в том, что разные жизни предпочтительнее нескольких копий одной. Он называет это понятие неполноценностью репликации.

Из этого может следовать, что множество Алис в идентичной среде будут иметь ценности не больше, чем одна. Если рассматривать космос, населенный миллиардами Алис, стоит ли вообще говорить об одной жизни, размноженной много раз, или же мы говорим об одной жизни, распространенной на множестве миров. «Я склоняюсь к этому мнению», говорит Кент, признавая, впрочем, что не может найти неопровержимого аргумента в его защиту. Этот сценарий он называет бесполезностью репликации.

Английский философ Дерек Парфит, который умер в прошлом году, рассматривал их в своей монументальной работе над личностью и «я», «Причины и личности» (1984). Мысленный эксперимент Кента затрагивает несколько старых загадок нравственной философии, которые никогда не были разрешены. Парфит размышлял над такими вопросами, например, сколько людей должно быть вообще, и всегда ли будет морально лучше добавлять жизнь, которую стоит прожить, в суету мира, когда нам выпадает возможность.

Например, представьте, что у нас есть контроль над тем, сколько людей живет в мире с конечными ресурсами. Даже если вы примете утилитарную точку зрения, будет проблема поиска наибольшего счастья для наибольшего числа: двойственные критерии создают двусмысленность. Но разве в такой утопии не нашлось бы места для еще одного человека? Можно было бы подумать, что должно быть некое оптимальное число людей, которое (в принципе) позволит использовать ресурсы наилучшим образом, чтобы обеспечить счастье и процветание для всех. Разве не было бы приемлемо уменьшить счастье всех на капельку, чтобы обеспечить еще одну счастливую жизнь?

По мере роста цифр дополнительное счастье новых жизней может перевесить затраты тех, кто уже жив. Проблема в том, что у такого процесса нет конца. В совокупности их скудные обрывки счастья составляют больше, чем сумма небольшого числа искренне счастливых обывателей. В конечном итоге, говорит Парфит, вы приходите к «отвратительному выводу»: к сценарию, в котором лучшим результатом будет раздутое население людей, которые безнадежно несчастны, но в котором лучше, чем если бы не было никакой жизни вообще. Кент не знает. «Мне трудно принять этот вывод», писал Парфит, но можем ли мы оправдать такой подход? «Я не знаю, может ли быть какое-нибудь взвешенное решение по отвратительному умозаключению», говорит он.

Взвесить плюсы и минусы, которые могут повлиять на отдельную личность, в зависимости от принятых нами решений, в принципе, не так уж и сложно. В корне этого вопроса лежит то, что Парфит назвал «проблемой неидентичности»: как мы можем размышлять рационально о вопросах обеспокоенных индивидов, если само их существование зависит от выбора, который мы делаем (вроде поиска места для «еще одного»)? По сравнению с нулем или небытием что угодно будет выигрышем, поэтому можно морально оправдать даже самые худшие сценарии существования. Но если принимать во внимание возможность того, что этот персонаж мог никогда и не существовать, мы уже не знаем, как посчитать.

Что, если бы существовали люди с такой большой потребностью в счастье, что требовали бы от других больше, чем те могут позволить отдать? В этой игре в утилитарную популяцию есть еще один очень странный сценарий. По словам Нозика, эта картина «потребует от всех нас жертв в угоду монстру для повышения общей полезности». Американский философ Роберт Розик назвал такое создание «утилитарным монстром» и раскритиковал его в своей книге «Анархия, государство и утопия» (1974). Большая часть книги Парфита была попыткой — безуспешной в итоге — сбежать как от отвратительного вывода, так и от утилитарного монстра.

Возможно, это позволит нам избежать отвратительного вывода Парфита. Теперь давайте вернемся к виртуальным мирам Кента, полным симов, и его принципу неполноценной репликации — когда определенное число разных жизней стоит больше, чем такое же число идентичных. Следовательно, их нельзя будет скомплектовать и по каплям увеличить общее счастье. Несмотря на то, что Лев Толстой сказал о неравенстве несчастных семей в начале «Анны Каренины» (1878), кажется, что огромное количество несчастных жизней будет почти одинаково в их мрачной грусти.

Такое решение нас также не удовлетворяет. Но точно так же неполноценность репликации потворствует утилитарному монстру — по определению, он должен быть уникальным, а значит, более «стоящим», в сравнении с неизбежным сходством жизней, которые его питают. «Я в некотором недоумении от них». «Было бы хорошо, если бы люди как-нибудь больше задумывались об этих вопросах», признает Кент.

Его книга «Эпоха Эм» представляет общество, в котором все люди загружают свое сознание в компьютере, чтобы прожить жизни в виде «эмуляций» (не симов, а эмов). Для американского либертарианского экономиста Робина Хэнсона — профессора экономики в Университете Джорджа Мейсона в Вирджинии — эти размышления являются не столько мысленными экспериментами, сколько предсказаниями будущего. «Миллиарды таких загрузок могли бы жить и работать в одном высотном здании, и места хватило бы всем», пишет он.

Эмы могут быть любого размера — некоторые из них будут очень маленькими — и время для них может идти по-другому в сравнении с людьми. Хэнсон подробно рассмотрел, как могла бы работать такая экономика. (Хэнсон считает, что мы уже можем жить в таком мире). Будет тщательное наблюдение и маленькая зарплата, но эмы могут избавиться от этих страданий, выбрав жизнь без работы.

Хэнсон говорит, что проблема идентичности в таком случае размывается: дубликаты — это «один и тот же человек» изначально, но постепенно их идентичность расходится, когда они начинают жить раздельно. Этот сценарий допускает возможность дублирования самого себя, поскольку разум уже был перенесен на компьютер, поэтому создание копий будет довольно-таки простым.

В грядущий век эмов люди с особенно ценными умственными способностями будут «загружаться» множество раз. Хэнсон предполагает, что дублирование людей будет не только возможным, но и желательным. «Они могут предпочесть избыточность в собственной имплементации, чтобы убедиться, что смогут пережить неожиданные катастрофы», говорит Хэнсон. И вообще, люди захотят сделать несколько копий себя в любом случае в качестве одной из форм страхования.

Эмы «не будут придавать особой ценности проживанию одной и той же жизни в разное время и разных местах. Но он не думает, что они предпочтут сценарий Кента об идентичных жизнях. Но такая работа и отношения будут требовать того, чтобы каждая копия была причинно независима, а их истории переплетались в зависимости от задач или как у партнеров». Они будут вкладывать ценность в множество копий, потому что эти копии смогут работать или общаться с другими.

«Я не думаю, что нравственность, которая появилась у людей, является достаточно общей или надежной, чтобы давать уверенные ответы на подобные ситуации, которые так далеки от «опыта» наших предков», говорит Хэнсон. В любом случае, эмам нужно будет бороться с моральными трудностями, переоценить которые мы пока не в состоянии. «Я прогнозирую, что эмы будут иметь множество разных конфликтующих мнений касательно таких вещей».

Эмы, симы и наше виртуальное будущее

Сможем ли мы когда-нибудь создать виртуальную жизнь, которая будет похожа на реальную вообще? Сейчас все это может звучать очень странно, словно апокрифические средневековые беседы об ангелах, танцующих на носочках. «Не думаю, что кто-то сможет уверенно сказать, возможно это или нет», говорит Кент, отчасти потому что «у нас нет хорошего научного представления о сознании».

Шведский философ Ник Бостром из Института будущего человека, утверждал, что вычислительная мощность, доступная «постчеловеческой» цивилизации, позволит с легкостью симулировать существ, которые живут в мире и ощущают его таким же реальным, как и мы свой. Даже если и так, технологии двигаются вперед, и эти вопросы остаются открытыми. Но вопросы о том, как нам формировать популяцию таких миров, представляют «настоящую дилемму для программистов, ученых и законоделов будущего, хоть и не столь отдаленного», говорит Кент. (Бостром также считает, что мы могли бы жить в такой симуляции).

Аргументы о максимизации полезности и проблема неидентичности возникают в дискуссиях о продвижении и предотвращении человеческого зачатия. У сценария Кента уже могут быть последствия для реального мира. Ни один из новых методов не гарантирует полную безопасность и никогда не гарантировал, но ЭКО никогда бы не стали делать, если бы это было обязательным условием. Когда следует отказываться от зачатия в случае риска, например, развития отклонений у ребенка? Но утилитарный подход оспаривает эту мысль. Предполагается, что такая техника должна соблюдать определенный порог риска.

(Это реальный аргумент: рассказ Натаниэля Готорна 1843 года повествует об алхимике, который пытался,  с фатальными последствиями, убрать метку со своей жены, привел в пример совет по биоэтике США в 2002 году). А что, если бы новый метод вспомогательного размножения имел бы умеренный риск появления небольших дефектов при рождении — например, родимых пятен? Но где провести черту? Трудно сказать, что люди, отмеченные таким пятном, будут хуже других и поэтому не должны приниматься методом во внимание. Когда дефект при рождении лучше вовсе не воплощать в жизнь?

Будут ли опасности, такие как социальная стигма или искаженные родительские мотивы и ожидания, перевешивать преимущества предоставления жизни. Некоторые упоминали эту дилемму, выступая в защиту клонирования человека. Кем мы будем, если будем делать этот выбор до того, как человек вообще будет существовать? Кто мы такие, чтобы делать выбор за клонированного человека?

Но феминистичный наблюдатель мог бы подумать, что мы стали жертвой одной из версий фантазии Франкенштейне. Подобные рассуждения, по-видимому, требуют от нас богоподобных решений. Ощущение новизны, которое приводит к появлению всех этих споров, имеет патриархальный налет. Другими словами, разве это не горстка мужчин грезит идеей наконец-то начать фабриковать людей, когда женщины занимались этим испокон веков?

Крайне сложно увидеть сильный аргумент в пользу того, что определенное количество разных жизней будет нравственно лучше такого же числа одинаковых. Даже если так, перспектива виртуального сознания поднимает весьма свежие и увлекательные этические вопросы — которые, по мнению Кента, заставляют нас оспаривать интуитивную ценность, которую мы помещаем в жизнь и демографию. Как нам избавиться от предубеждений? Почему же мы так думаем?

«Безликая» толпа, которой противостоит индивид — привычный штамп, который вызывает ощущение героизма. Можно было бы сказать, что воспринимаемая гомогенность в человеческих популяциях разъедает способность к эмпатии и этическим рассуждениям. Но это не обязательно правильно.

Просто вспомните фильмы про идентичных близнецов или клонов — это не всегда приятно выглядит. Может быть, у нас есть эволюционное отвращение к одинаковым индивидам, особенно если учесть, что генетическое разнообразие популяции обеспечивает ее выживание? В 1919 году это ощущение Зигмунд Фрейд связал с идеей злого двойника (доппельгангера). Выглядит даже зловеще. И если в случае с идентичными близнецами это еще можно понять, сотня «идентичных» персонажей будет выглядеть ужасно.

Но ценность мысленных экспериментов заключается в том, что они дают вам новый способ осмыслить вопросы этого мира. Не похоже, что мы столкнемся с армиями дубликатов в ближайшее время, в реальном или виртуальном мире. Воображая этику наших отношений к симам, мы раскрываем шаткую или не существующую логику, которую используем инстинктивно, взвешивая нравственную ценность нашей собственной жизни.

А теперь убьете цифровую муху? Расскажите в нашем чате в Телеграме.

Теги
Показать больше

Похожие статьи

Добавить комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *

Кнопка «Наверх»
Закрыть