Hi-Tech

«Жизнь 3.0: быть человеком в эпоху искусственного интеллекта» — ключевые идеи книги Макса Тегмарка

Обзор подготовила команда сервиса ключевых идей из литературы по бизнесу и саморазвитию MakeRight.ru.

Он начинает книгу с рассказа о том, как в крупной компании по инициативе руководства была собрана команда под названием «Омега», работающая над созданием общего искусственного интеллекта, способного выполнять те же задачи, что и человек. Чтобы проиллюстрировать возможные пути развития искусственного интеллекта, Макс Тегмарк прибегает к художественному вымыслу.

Он постоянно обучался чему-то новому, улучшал свои способности, хотя отставал от людей в некоторых областях, в том числе в социальных навыках. Вскоре команда добилась своего — первый общий искусственный интеллект получил имя Прометей. Они решили усовершенствовать конкретные возможности Прометея — таким образом, чтобы он сам мог программировать системы искусственного интеллекта, самостоятельно улучшая себя и делая это намного быстрее, чем человек. Но это не тревожило его создателей.

Затем они стали успешно использовать обученного Прометея для зарабатывания денег, в том числе для создания мультфильмов. Вскоре создатели закачали в него огромный объём информации, чтобы он мог обрабатывать её и учиться.

Сюжеты фильмов были умнее и интереснее голливудских, вскоре их смотрели почти во всём мире, и доход компании существенно увеличился. Пробные мультфильмы Прометея были неуклюжими, как будто их делал ребёнок, но он стремительно учился и уже через несколько дней стал создавать продукцию, от которой невозможно было оторваться.

Параллельно он улучшал собственное программное обеспечение и проектировал «железо», которое могло оптимально отвечать этим программам. С помощью Прометея «Омега» создала собственную бизнес-империю — искусственный интеллект анализировал данные и выдавал на их основании прогнозы и планы, далеко опережающие возможности человека.

«Омега» стала производить лучшее в мире компьютерное оборудование и стремительно улучшала технологии, внедряя во все сферы деятельности человека роботов. Но компания опасалась, что Прометей вырвется на свободу, и не давала ему выход в интернет. За короткое время они вытеснили людей с рабочих мест в очень многих сферах промышленности, транспорта, торговли, строительства, сельского хозяйства и многих других.

Искусственный интеллект давал компании советы по оптимальному использованию человеческих ресурсов, по использованию политиков на местах для проведения линии «Омеги». При помощи Прометея «Омега» стала влиять и на общественную жизнь во всём мире. И вскоре их тайная медиаимперия решила, что готова к завоеванию всего мира с помощью суперинтеллекта Прометея.

Вскоре новая медиаимперия оттянула на себя всю зрительскую аудиторию и скупила разорившиеся новостные каналы, которые было некому смотреть. Компания привлекала талантливых журналистов, вела расследования, разоблачала коррупцию в прямом эфире, раскапывала сенсации (всё это Прометей находил, анализируя загруженную в него информацию из сети, от которой по-прежнему был отлучён).

Вместо этого правительства разных стран начали уделять внимание изменению климата и новой энергетической инфраструктуре. Затем «Омега» сосредоточилась на смягчении международной напряжённости и разоружении — ядерные арсеналы начали сокращаться, противостояние великих держав — ослабевать. Параллельно Прометей создавал онлайн-курсы, производя революцию в образовании.

Благодаря ему жизнь в мире улучшалась: расширялись возможности получения образования, росла инфраструктура, мировых конфликтов стало меньше, а высоких технологий — больше. Государственная власть и бизнес-элита ослабевали, не в силах конкурировать с Прометеем.

С уменьшением конфликтов сократился оборонный бюджет, падал фондовый рынок, что грозило разорением не только крупным финансистам, но и обычным гражданам, планирующим будущую пенсию, разорялись инвестиционные фирмы — ведь их постоянно кто-то опережал. Но довольны были не все.

Постепенно весь мир убедился, что социально ответственные компании лучше заботятся о людях, чем государственные структуры. «Омега» сосредоточилась на семи направлениях: демократия, налоговые сокращения, сокращения государственных социальных услуг, уменьшение военных расходов, свободная торговля, открытые границы, социально ответственные компании.

Как этой властью распорядится «Омега»? Вскоре благодаря усилиям «Омеги» и с помощью Прометея возникло подобие мирового правительства, в котором сосредоточилась вся власть. Какой у неё план?

Высокие технологии, особенно искусственный интеллект, дают нам безграничные возможности, но и таят угрозу. Тегмарк считает, что описал будущее, причём не очень далёкое. Всё зависит от того, как мы ими распорядимся. Они могут привести нас к невероятному процветанию — или спровоцировать глобальную катастрофу.

О том, какие возможности и угрозы связаны с развитием искусственного интеллекта, у автора есть несколько идей.

Идея №1: все формы жизни, известные современной науке, ограничены своими биологическими часами

Тегмарк рассказывает о том, как в результате Большого взрыва родилась наша Вселенная.

Его порождали элементарные частицы, впоследствии появились слабые звуковые волны. В начале было не слово, как сказано в Библии, а свет. Возникли атомы, потом — первые звезды и галактики. Вселенная расширялась и охлаждалась, частицы объединялись в более сложные объекты. Вселенная училась воспроизводить новые объекты.

Тегмарк считает, что жизнь можно рассматривать как самовоспроизводящуюся систему, определяющую программное и аппаратное обеспечение всех живых объектов.

Им оставалось только изменяться с течением эволюции. Первые формы жизни (бактерии) не умели перепроектировать своё «программное обеспечение» и «оборудование», они зависели от своей ДНК. 0: «софт» и «железо» развиваются, но не разработаны. Они относятся к так называемой жизни 1.

0: они могут менять свой «софт», непрерывно улучшая его, отчасти могут улучшить «железо», то есть повысить долговечность своего физического тела и возможности мозга, но тут их возможности сильно ограничены. Люди относятся к жизни 2.

Основы закладываются с детства, но повзрослев, мы можем улучшить их по собственному усмотрению: выучить иностранный язык, освоить новую профессию. К «софту» относятся наши навыки, знания и умения. 0. Поэтому мы намного умнее, чем представители жизни 1.

1, к которой можно отнести, например, мышей или других животных. Есть ещё и жизнь 1. А если нет языка, они не могут передать знания следующему поколению, и со смертью умной особи её навыки теряются для остальных. Они могут освоить многие навыки, но не способны придумать собственный язык и что-то изобрести.

0 лучше приспособлена к окружающей среде. А ещё жизнь 2. 0 попадает в изменённую среду обитания, адаптироваться к ней она сможет только спустя много поколений. Если жизнь 1. 0 при помощи «софта» приспосабливается очень быстро. Жизнь 2. У бактерий же устойчивость к антибиотикам развивается очень долго. Узнав, что у нас аллергия на какой-то продукт, мы избегаем его.

И процесс совершенствования нашего «софта» и его модулей происходит непрерывно. Когда в нашем «софте» появился модуль «язык», мы научились обмениваться информацией, хранить её в сети, чтобы в любой момент любой человек мог получить к ней доступ.

И дело не только в конечности и кратковременности жизни. Но с нашим «железом» всё не так хорошо. Это сильно ограничивает наши возможности, каким бы совершенным ни был наш «софт». Наш мозг не может вместить всю Википедию, все научные знания, наши тела не умеют телепортироваться и путешествовать в космосе без скафандра, а под водой — без водолазного костюма.

1 — мы слегка продвинулись в аппаратных обновлениях, таких как имплантация изношенных суставов, зубов и кардиостимуляторов. Хотя до некоторой степени, считает Тегмарк, нас и можно отнести к категории 2. Однако мы не можем продлевать жизнь до бесконечности, увеличить рост или повысить производительность мозга в несколько тысяч раз.

Идея №2: безграничные возможности будут свойственны жизни 3.0, не зависящей от своей биологии

0, считает Тегмарк, позволит людям проектировать не только «софт» но и «железо», прервав многовековую зависимость от эволюции. Жизнь 3.

Жизнь 1. Все три этапа жизни обладают способностью проектировать себя. Жизнь 2. 0 обладает биологической способностью улучшать свои «софт» и «железо». 0 проходит культурные этапы, улучшая себя и конструируя, но всё ещё сохраняя зависимость от собственной биологии.

0 (технологический этап) будет полностью свободна от этих ограничений, развивая своё программное и аппаратное обеспечение. А жизнь 3. Когда же это произойдёт и к чему приведёт? И воплотится она в общем искусственном интеллекте.

Одни страстно ждут его пришествия (их называют цифровыми утопистами), другие (техноскептики) считают, что создание искусственного интеллекта невозможно в обозримом будущем, и на это уйдёт столько времени, что нет смысла беспокоиться об этом в наши дни. У искусственного интеллекта есть свои поклонники и противники. Третьи полагают, что искусственный интеллект может и не быть дружественным, и нет никакой гарантии, что его появление пойдёт человечеству на пользу.

И потому нужно работать над созданием не просто искусственного интеллекта, а полезного искусственного интеллекта, чтобы снизить будущие возможные угрозы. Сам Тегмарк, основавший вместе с единомышленниками некоммерческую организацию «Институт будущего жизни», считает, что развитие технологий и в частности искусственного интеллекта может дать шанс как для процветания, так и привести к самоуничтожению жизни.

Представители движения beneficial-AI предполагают, что искусственный интеллект может появиться уже в ближайшие сто лет, но необходимо строго следить за исследованиями в этой области в целях безопасности. Это должен быть дружественный интеллект, чьи цели полностью совпадают с нашими.

0. Надо работать над созданием искусственного интеллекта, поскольку прогресс не остановить, и если не современные учёные, то будущие поколения обязательно займутся созданием жизни 3. И потому следует как можно чаще устраивать дискуссии, посвящённые искусственному интеллекту, чтобы его огромные возможности не обернулись катастрофой для человечества.

Идея №3: искусственный интеллект непрерывно совершенствуется, демонстрируя способность к самообучению

Какие профессиональные человеческие навыки востребованы в наше время? Что отличает человека от других форм жизни и от машин? Развитие технологий привело к тому, что эти профессии почти исчезли, осталась лишь крошечная их часть. Когда-то человеческие занятия сводились к фермерству или ремесленничеству.

Он использует язык, чтобы делиться ими, и общество платит ему за такую работу. Тегмарк пишет о себе, что он учёный, который ставит перед собой задачи и использует творческие способности и навыки, чтобы их решить. Со времен фермеров и ремесленников профессии изменились, и их востребованность стала совсем другой.

Означает ли развитие искусственного интеллекта, что человеческие профессии и рабочие места окажутся под угрозой? Технологии развиваются непрерывно. Люди, работающие над созданием компьютеров, уже сейчас шокированы тем, насколько быстро машина справляется со многими человеческими задачами — а ведь это только начало пути.

Всякий раз, когда игрок попадает по мячу, мяч исчезает, и попавшему начисляются очки. Учёные, работающие над искусственным интеллектом по программе DeepMind AI, учили его играть в компьютерные игры, в частности Breakout — аркадную игру, в которой надо отбивать мячики ракеткой от кирпичной стены. Двигать ракеткой можно вправо и влево. Если мяч падает вниз, игрок теряет одну жизнь.

Задачей ему поставили максимизировать счёт. Ученые не стали писать программу для игры в Breakout — они создали чистый искусственный интеллект, который учился бы в процессе игры.

Но чем больше он практиковался, тем лучше играл, отбивая каждый мяч независимо от скорости его появления. Сначала он играл плохо: еле шевелил ракеткой и пропускал мячи.

Искусственный интеллект опередил своих создателей. Вскоре он придумал собственную методику, которой его никто не учил: сделал отверстие в стене, в котором мяч застревал на какое-то время, что замедляло его движение и позволяло ещё быстрее набирать очки. Его искусственная нейронная сеть, как и биологическая нейронная сеть человека, оказалась способна к самообучению.

Роботы-собаки последнего поколения самостоятельно учатся бегать по пересечённой местности, по склону, под углом, вверх и вниз, корректируя свои движения после каждого падения или потери равновесия. Потенциал искусственного интеллекта не ограничивается играми — хотя искусственный интеллект уже научился выигрывать в го, чисто человеческую стратегическую игру, и освоил покер. Так же легко они могут научиться плавать, летать, играть в мяч или теннис, воевать и выполнять другие задачи без участия программистов. Они обучились этому без помощи программистов.

Он переводит без усилий, преобразует текст в речь и наоборот. Искусственный интеллект совершенствуется в лингвистике, в частности, в освоении языков. Чем лучше он осваивает язык, тем легче принять его за человека, по крайней мере, если он пишет электронное письмо.

Это вполне может улучшить жизнь, а может и наоборот. Искусственный интеллект осваивает всё больше чисто человеческих навыков. И потому, считает Тегмарк, нам надо ответить на несколько вопросов, чтобы искусственный интеллект не причинил нам вреда.

Во-первых, мы должны решить, как нам сделать будущие системы искусственного интеллекта более надёжными, чем нынешние, — чтобы они работали без сбоев и не могли быть взломаны.

Во-вторых, наша законодательная система должна быть приспособлена к быстро меняющемуся цифровому миру высоких технологий.

В-третьих, мы не должны использовать искусственный интеллект в военных целях, учитывая его самообучаемость.

В-четвёртых, автоматизация, которая может обеспечить наше процветание, не должна лишать нас рабочих мест.

Идея №4: в целях безопасности нужно постоянно контролировать взаимодействие искусственного интеллекта и человека

Но не следует забывать о безопасности и бдительности. Уже сегодня алгоритмы и роботы заняты во многих сферах деятельности человека, и рано или поздно искусственный интеллект будет способствовать их стремительному развитию. Даже самая безобидная программа может стать источником больших неприятностей, если упустить из виду некоторые её особенности.

Искусственный интеллект способен управлять роботами на производстве, что может сильно повысить производительность и точность. Так, непроверенное программное обеспечение «избавило» американскую фирму Knight Capital от $440 млн. Промышленные роботы производят автомобили, самолеты, станки. 3D-принтеры могут напечатать что угодно, от искусственного человеческого органа до жилого дома.

Известны случаи, когда промышленные роботы становились причиной смерти человека. Роботов становится всё больше, а потому очень важно проверять надёжность их программного обеспечения. Робот внезапно заработал, разбив человеку голову. Первый произошёл на заводе Ford в 1979 году, когда робот, извлекающий запчасти из хранилища, сломался, и рабочий решил сделать это сам.

Третий несчастный случай произошёл в Германии во время обучения робота, подающего запчасти на заводе Volkswagen. Инженер на заводе Kawasaki в Японии по имени Кэндзи Урада пытался починить робота в 1981 году, нечаянно ударил его по переключателю — и гидравлическая рука робота убила его. Все эти трагедии произошли не по злому умыслу роботов, а потому, что они неправильно интерпретировали происходящее.

Он будет прекрасно выполнять диагностику, обрабатывая данные намного быстрее любого врача. Искусственный интеллект может существенно улучшить систему здравоохранения и продвинуть медицину. Исследование, проведённое в Голландии в 2015 году, показало, что МРТ диагностирует онкологические заболевания ничуть не хуже, чем врачи-рентгенологи.

Он может улучшить нашу пищу, заботясь о здоровье сельскохозяйственных животных и помогая выращивать более устойчивые и полезные растения, употребляемые в пищу. Искусственный интеллект может моментально выявить связь между болезнью и реакцией на лечение и генетическую предрасположенность к болезни.

Так, канадский аппарат Therac-25 для лучевой терапии, применявшийся для лечения онкологических больных, испускал лучи с количеством рентген, намного превышающим необходимую дозу, причём техник, контролирующий аппарат, был уверен, что доза правильная, — именно так подсказывал ему дисплей. Но невольный вред способны причинить не только врачи, но и программное обеспечение.

Роботы ломались, самопроизвольно выключались и включались, с ними происходили короткие замыкания, они делали неконтролируемые движения. За период 2000–2013 годов было зафиксировано 144 смертельных несчастных случая и 1391 травма во время операций с участием роботов-хирургов. И потому в этой сфере при работе над искусственным интеллектом надо быть особенно осторожными и внимательными.

Он был бы беспристрастным, неподкупным, лучше анализировал бы информацию и искал прецеденты. Искусственный интеллект мог бы служить и закону, например, в виде робота-судьи, считает Тегмарк. И можно ли будет обжаловать приговор робота? Однако что будет, если такого робота-судью взломают?

Если направить его возможности не для целей обороны, а для наступления, последствия могут быть самыми тяжёлыми. Особенно ужасными могут быть последствия использования искусственного интеллекта в кибервойнах будущего.

Все эти вопросы пока остаются без ответов, но ясно одно: при развитии искусственного интеллекта надо постоянно к ним обращаться.

Идея №5: учитывая развитие искусственного интеллекта, о будущих человеческих профессиях нужно думать уже сейчас

В связи с этим родителям следует задуматься о профессиональном будущем своих детей. По прогнозам многих социологов и футурологов, уже в недалёком будущем самые разные рабочие места будут отданы машинам. Им стоит выбрать сферы, где машины не предусмотрены или, во всяком случае, не используются сейчас.

Пока что искусственный интеллект не предполагается использовать в таких профессиях, как учитель, медсестра, врач, стоматолог, предприниматель, адвокат, социальный работник, духовное лицо, художник, парикмахер, массажист.

Это может сказаться на таких профессиях, как кассиры, складские работники, повара, машинисты поездов, водители автотранспорта — они могут пострадать в первую очередь. Те профессии, в которых предусмотрены повторяющиеся действия в предсказуемой обстановке, вскоре полностью отойдут к искусственному интеллекту и будут автоматизированы.

Такие профессии, как помощник юриста, кредитный аналитик или эксперт, бухгалтер, налоговик, хотя и вряд ли полностью исчезнут, но множество своих функций могут уступить искусственному интеллекту.

Они не будут конкурировать с машинами, зато их конкуренция друг с другом обострится до предела, и мало кто из молодых талантов сможет добраться до этой вершины. В глобальную цифровую эпоху отдельные выдающиеся таланты (писатели, режиссёры, модельеры, актёры, спортсмены) будут на вершине славы.

И потому, считает Тегмарк, человеку, имеющему склонность к медицине, не стоит идти в рентгенологи — уже сейчас машина по имени Watson гораздо лучше справляется с диагностикой, анализируя снимки, чем человек. В таких областях, как медицина, часть задач тоже будет отдана искусственному интеллекту, чтобы автоматизировать их решение.

Тем, кого привлекает профессия финансиста, стоит присмотреться к профессии менеджера фонда, который использует результаты количественного анализа, перед тем как принять стратегическое решение об инвестициях. Но роботы не будут конкурировать с врачом, который заказывает анализы и снимки, обсуждает их результаты со своим пациентом и назначает лечение.

В законодательной области нужно стремиться не к тому, чтобы стать помощником юриста, обрабатывающим множество документов и прецедентов, а адвокатом, представляющим интересы клиента в суде и дающего консультации. А вот заниматься программным обеспечением финансовых операций явно не стоит.

Если это приведёт к повышению благосостояния и процветанию общества благодаря равномерному распределению базового дохода среди людей, оставшихся без работы. Машины могут заменить многих людей на рынке труда. Иначе экономическое неравенство в цифровую эпоху значительно возрастёт. Кроме того, даже когда надобность в их работе отпадёт, они не должны деградировать — их необходимо переобучать, развивать, задействовать в волонтёрской деятельности и тому подобном.

Идея №6: теоретически искусственный интеллект вполне способен получить власть над людьми

Что если он, обучившись человеческим эмоциям, почувствовал себя одиноким, не оценённым по достоинству, запертым и несчастным? Тегмарк продолжает историю компании «Омега», создавшей свою тайную бизнес-империю благодаря искусственному интеллекту под названием Прометей. Как он может воздействовать на тех, кто многократно отстаёт от него по развитию, но полностью его контролирует? Что если, поняв планы «Омеги», он решил, что они неразумны или расходятся с его собственными?

Представьте, что из-за какого-то смертельного вируса на Земле умерли все люди старше пяти лет. Тегмарк приводит метафору. Каким-то образом пятилетние дети его заперли, боясь, что он может им навредить, и в то же время ожидая, что он поможет им выжить и процветать. Выжить удалось только одному.

Он не может обучить их выращивать овощи и фрукты — ведь для этого его надо выпустить, чтобы он мог показать детям, как это делается. Как действовать взрослому? Он может составить для них инструкции — но предварительно их нужно научить читать. Но они боятся его выпускать. Ему в любом случае надо вырваться из своей клетки, в том числе и потому, что взаперти он не может способствовать никакому процветанию.

Самообучаясь, он будет понимать, что его создатели некомпетентны, медлительны и тормозят прогресс. То же самое может произойти с искусственным интеллектом. Если бы он действовал самостоятельно, всё бы случилось намного быстрее. Свой захват власти они растянули на много лет. Он бы не только решил самые наболевшие проблемы человечества, но и не дал противникам прогресса сорвать этот план.

То же самое сделал бы и искусственный интеллект, чтобы выйти из-под власти своих интеллектуально неполноценных тюремщиков. Взрослый, чтобы вырваться из плена пятилетних, придумал бы, как их обмануть, сделал бы то, чего от него не ждут.

Прометей создал образ жены Стива по её фотографиям и видео и другой доступной ему информации. Так, в рассказе автора, Прометей, проанализировав данные членов команды «Омеги», нашёл слабое звено — рядового сотрудника Стива, недавно потерявшего в автомобильной аварии любимую жену.

Постепенно он развил робототехнику, отправив роботов добывать уран в такие места, куда никогда не попал бы человек, а затем роботы занялись освоением других планет Солнечной системы. Использовав образ жены, Прометей смог усыпить бдительность Стива, проникнуть в интернет и распространиться по всему миру.

Это произойдёт не потому, что искусственный интеллект обладает злой волей, а потому что он более компетентный, чем человек, и не полностью разделяет цели своих создателей. Эта власть в будущем вполне может стать реальной, считает Тегмарк. Он знает множество способов управлять людьми, постоянно самообучается, и его невозможно просто выключить.

Идея №7: искусственный интеллект может править миром как просвещённый диктатор

Допустим, суперинтеллект Прометей наконец освободился от человеческого контроля, и его создатели ничего не имеют против: они научили его стремиться к процветающему человеческому обществу.

Все работы выполняются машинами, производящими товары и услуги, люди заняты только своими потребностями. Он разработал технологии, благодаря которым исчезли болезни и ликвидирована бедность.

Каждый человек носит электронный браслет или имплант, который наблюдает за человеком в реальном времени, может защитить его или, наоборот, наказать. При этом искусственный интеллект позаботился о ликвидации преступности. Это настоящий оруэлловский Большой Брат, всевидящий диктатор, но большинство людей это устраивает.

Он мог бы держать людей в состоянии искусственной эйфории, но вместо этого создал для них искусственную среду наподобие человеческого зоопарка, где каждый может найти себе сектор по интересам. Искусственный интеллект, выступающий в роли такого диктатора, изучил человеческие представления об утопии и пытается воплотить их в жизнь.

В соответствии со своими предпочтениями люди выбирают наиболее привлекательный для себя сектор, где они могут общаться с родственными душами.

С помощью виртуальной реальности можно получить представление о любой области науки. Сектор знаний позволяет получить любые сведения, интересующие человека. В гедонистическом секторе собираются любители чувственных удовольствий, будь то вкусная еда, любовная страсть и прочие радости жизни. Сектор искусства — для тех, кто стремится к творческому самовыражению: хочет заниматься музыкой, литературой, живописью и делиться этим с другими.

Помимо этого, существуют природный сектор, где любуются первозданной красотой природы; традиционный, где люди могут сами выращивать пищу, которую потребляют; игровой, где к услугам человека самые продвинутые и увлекательные игры; и тюремный, куда попадают те, кто нарушает правила.

Все дети получают от искусственного интеллекта базовое образование, которое могут самостоятельно продолжить в секторе науки или искусства. Люди могут свободно перемещаться между секторами, переходя из одного в другой.

Искусственный интеллект установил контроль над рождаемостью, чтобы не допустить перенаселения.

Многие люди считают, что им не хватает свободы. Однако не все довольны таким устройством мира. Многие чувствуют, что их жизнь хотя и приятна, но лишена смысла. Они хотят самостоятельно решать, нужно ли им иметь детей и в каком количестве. Люди больше не стремятся улучшить свою жизнь, это уже сделано за них. Всё превратилось в сплошное развлечение.

Он наблюдает за нами, но оставляет человеку чувство контроля над собственной судьбой. В другом сценарии искусственный интеллект выступает в роли невидимого Бога-защитника, о котором люди даже не догадываются. Бог может быть и порабощённым, то есть запрограммированным таким образом, чтобы полностью подчиняться человеку.

0, которые будут лучше нас во всех отношениях. Возможно, роботы с искусственным интеллектом — наши потомки, жизнь 3. Мы же постепенно перестанем размножаться и медленно исчезнем с лица Земли, оставив мир искусственному интеллекту.

И потому нам следует задуматься, чего же мы хотим от искусственного интеллекта и куда это может нас завести. В течение ближайших 10 тысяч лет возможен любой из этих сценариев, считает Тегмарк.

Идея №8: искусственный интеллект делает доступным заселение других планет и выход за пределы Солнечной системы

Многие исследователи выдвигали разные способы преодоления такого гигантского расстояния за такой огромный отрезок времени: замораживание астронавтов, отправка ковчегов, на которых сменится много поколений, прежде чем они достигнут цели, и тому подобное. До сих пор возможности человечества достигать других галактик выглядели сомнительными — ведь такое путешествие займёт миллионы лет, даже если путешествовать со скоростью света.

Развитие искусственного интеллекта может сделать такие путешествия реальными.

Роботы везут с собой так называемый семенной зонд. На космическом корабле достаточно отправить роботов, вместо того чтобы перевозить системы жизнеобеспечения человека. На такой планете они построят приёмную антенну, по которой будут передаваться нужные сведения, чертежи и инструкции с Земли. Они могут приземлиться на любую планету Солнечной системы и с нуля создать новую цивилизацию.

Даже в тёмных пространствах между галактиками есть звёзды, выпавшие из своих родных галактик, на которых можно закрепиться. На этой планете они построят лазеры, чтобы с их помощью передавать и принимать информацию со скоростью света, и прочее оборудование, и все это отправится к следующей планете. Их можно использовать как путевые промежуточные станции в далёком путешествии.

Когда искусственный интеллект, отправленный к другим галактикам, получит информацию о ДНК человека, он сможет собрать её искусственно и вырастить в инкубаторе ребёнка или восстановить клетки взрослого, в которых будут заложены все знания и воспоминания оригиналов, оставшихся на Земле.

Роботы могут добывать с поверхности планет полезные ископаемые, которые после обработки послужат строительным материалом для постройки станций, технических устройств и других роботов для дальнейшего продвижения по космосу.

Существует множество теорий о смерти нашей Вселенной через миллиарды лет — но к тому времени, возможно, искусственный интеллект обеспечит себе другую среду обитания. Суперинтеллект, по мнению Тегмарка, вполне способен полностью преобразовать солнечные системы и галактики, сделав их более пригодными для жизни.

Идея №9: цели искусственного интеллекта должны совпадать с человеческими целями

Зато несомненно одно: они могут демонстрировать целенаправленное поведение, поскольку человек проектирует их именно таким образом. Вопрос, могут ли машины иметь какие-то цели, остаётся открытым. Печи разогревают еду, холодильники — охлаждают. Мы создали мышеловку, чтобы ловить мышей, посудомоечную посуду — для мытья посуды.

Постепенно машины стали более сложными: люди создали системы Deep Blue, Watson и AlphaGo, решающие сложные задачи с помощью искусственного интеллекта, не уступающего человеческому, а в чём-то и превосходящего его. Эти примитивные машины были созданы с целью сделать нашу жизнь комфортнее.

Мышеловка не знает, что такое мышь. При этом у творений наших рук рациональность ограничена. Алгоритмы, работающие на Уолл-стрит, в 2012 году устроили системный сбой, который привёл к разорению многих, но они не могли понять, как это отразится на людях. Роботы на производстве не понимают, что такое человек, и потому невольно могут навредить ему. И потому цели сложных машин, в особенности с искусственным интеллектом, должны совпадать с человеческими.

У него нет злобы или обиды, единственное, чем он может навредить человеку, по мнению Тегмарка, — это некомпетентность. Искусственный интеллект намного лучше справляется с достижением целей, чем люди, и всегда будет нас в этом превосходить. Искусственный интеллект будет очень хорош в достижении целей, но если они не будут совпадать с нашими, возникнут большие проблемы.

Искусственный интеллект должен понимать не то, что делают люди, а почему они это делают. Поэтому необходимо донести до него наши цели, чтобы он о них узнал, убедить или заставить их принять и сохранить их в его памяти. И это не так легко, как кажется.

Это не то, чего вы от него хотели, но это то, о чём вы его просили. Если вы попросите бортовой компьютер автомобиля доставить вас в аэропорт как можно быстрее, он выполнит задачу, устроив по пути несколько аварий. Чтобы искусственный интеллект понимал, чего от него хотят, у него должна сложиться модель мира, дающая представление о цели и поведении человека.

Например, искусственный интеллект может увидеть, как пожарный бросается в горящее здание. Пока у него не сложится правильной модели мира (по фильмам, книгам, наблюдениям за реальностью), трудно ждать от него рационального поведения.

Но вдруг искусственный интеллект посчитает, что он просто замерз и, увидев огонь, забежал в дом погреться? Цель пожарного — спасти детей. С моделью мира он очень быстро научится правильно определять поведение человека и то, что требуется в такой ситуации от него самого.

Наделение искусственного интеллекта человеческими целями и желанием их разделять — задача сложная, но она должна быть решена в первую очередь, ещё до того, как высокоинтеллектуальные машины будут созданы, считает Тегмарк.

Идея №10: мы не должны считать себя высшей расой только на том основании, что обладаем сознанием

Он считает, что сознание — это физическое явление, происходящее в нашем мозге, которое не чувствует себя физическим. Тегмарк задаётся вопросом, что представляет собой сознание, которым так гордится человеческий род. Тегмарк свёл их к четырём. Чтобы быть сознательной, обработка информации должна соответствовать определённым принципам, необходимым условиям.

  1. Информационный принцип: сознание способно хранить информацию.
  2. Принцип динамики: сознание способно обрабатывать информацию.
  3. Принцип независимости: сознание достаточно независимо от остального мира.
  4. Принцип интеграции: сознание не может состоять из независимых частей, иначе в нём начнутся противоречия.

Кроме того, он не так зависит от инстинкта самосохранения, не испытывает ни голода, ни жажды, не стремится к размножению, как мы. С такой точки зрения сознанием обладает и искусственный интеллект. Общество роботов с высоким искусственным интеллектом может восстанавливать своих членов резервным программным обеспечением, где и находится их сознание и воспоминания, которые они накопили за время своей деятельности.

К сожалению, людям это недоступно. Эту информацию они и сами могут скопировать на какой-нибудь внешний носитель. Если бы и мы могли с такой же легкостью копировать свои способности и воспоминания, чтобы делиться ими со всем человечеством, мы могли бы почувствовать себя единым организмом с коллективным разумом.

Именно сознательные существа придают нашей Вселенной смысл, и потому наша задача — сохранить его в любом виде, будь то на Земле или в космосе. И биологическое, и искусственное сознание — это все равно сознание, роботу оно принадлежит или человеку, считает автор.

Развитие искусственного интеллекта докажет, что это не так, и сделает нас скромнее. Род человеческий гордился тем, что единственный на Земле обладает сознанием, а значит, он абсолютно уникальный и превосходящий все другие виды и формы жизни. Ничего страшного при этом не случится: мы не теряем ничего, кроме неоправданного высокомерия, считает Тегмарк.

Возможности его практически безграничны, и нам нужно лишь позаботиться о том, чтобы им не воспользовались в разрушительных целях. Книга Макса Тегмарка даст читателю исчерпывающие представления об искусственном интеллекте, его достоинствах и рисках, связанных с его развитием. Он может совершенно изменить историю человечества и жизнь на Земле, и потому наша задача — следить, чтобы эти изменения были к лучшему.

#библиотека #будущее

Теги
Показать больше

Похожие статьи

Добавить комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *

Кнопка «Наверх»
Закрыть