Hi-Tech

Что бы вы хотели от искусственного сверхинтеллекта, будь он возможен?

Что он будет делать? Весьма интересное обсуждение я нашел на /r/Futurology: люди пытаются раздвинуть границы постижимого и понять, что бы они хотели попросить у искусственного сверхинтеллекта, либо что хотели бы от него вообще, если бы он был возможен. Если теория множественных вселенных верна, и они действительно бесконечны, и если по ним можно перемещаться, что будет делать сверхинтеллект — бесконечно усиливать себя или создавать все больше сверхинтеллектов?

Что будет делать искусственный сверхинтеллект?

Я бы хотел, чтобы он был нашим вездесущим доброжелательным лидером, который судил нас и вел нас всегда. «Говорите, сверхинтеллект, да? Давайте позволим богу-машине править нами и положить конец всем нашим проблемам. Человечество — отстой, я не верю, что оно еще способно что-то делать. (Надеюсь, Иисусе, ты это не читаешь)».

По эгоистичным причинам я бы предпочел, чтобы этого не произошло». «Соглашусь, за одним исключением: бог-машина может запросто рассудить, что человечество слишком погрязло в болоте, чтобы пытаться его спасать, и просто покончит со всеми нами.

«Я думаю, что он просто будет рассматривать аморальность как вероятностную ошибку, поскольку существует вероятность создать порочных существ в ходе несовершенных эволюционных процессов, и решит просто исправить аморальность, а не наказывать людей за это».

Бог-машина

Если мы отдадим ему ключи от планеты, он будет рулить ей так, как нам не понять». «Глобальный советник был бы лучшим сценарием.

«Нужно спросить, поможет ли он нам в колонизации других миров, а если нет, закончится ли наше существование на земле».

Также вернем все остальные формы жизни, которые умерли, и дадим им разум». «Восстановим всех умерших людей, вразумим их, а затем построим бесконечную утопию для всех существ.

«Для начала, не используй все атомы в наших телах, чтобы сделать что-нибудь более интересное».

«Что ж, это задача не из легких, и кажется неблагодарным просить о большем, но если интересно, возможно, исправить изменение климата и старение, а если в галактике пусто — наполнить ее жизнью».

Что означает «не убивай/не мучай нас», «сохраняй нас в живых» и «хотя бы позволь нам существовать в любом смоделированном мире, в котором мы хотим жить». «В фантастическом мире, в котором я мог бы заложить некие фундаментальные ценности в бога-машину, я бы хотел, чтобы он был хорошим. Это все, что способны придумать мои глупые примитивные обезьяньи мозги». Решить проблемы вроде смерти звезд и тепловой смерти вселенной тоже было бы круто.

Не нужна даже вспышка нейронов в стволе мозга — простого текста для начала будет достаточно. «В краткосрочной перспективе система, способная пройти тест Тьюринга, по умолчанию будет симулятором миров. Наверное, мечта всех ботанов повсюду». По сути, вы станете собственным богом в собственном мире фантазий.

Но не думаю, что такая утопия продержится долго. «Сверхинтеллект был бы идеальным мировым лидером — у нас достаточно ресурсов, чтобы распределить их поровну. Если он будет сознательным и найдет способ использовать квантовое пространство для проведения расчетов на своей нейросети, он сделает вселенную сознательным существом. Искусственный сверхинтеллект будет расти. Представьте мысли полностью сознательной вселенной». Поскольку распространение информации в квантовом мире происходит мгновенно, он сможет также использовать всю вселенную в качестве вычислительной мощности.

Помочь человечеству

«Пусть создаст технологию, в которой мы могли бы жить в искусственном мире, который позволил бы нам покинуть наши бренные телесные формы до тех пор, пока мы не накопим достаточно знаний и в конечном итоге не захотим умереть в блаженстве».

Пусть найдет самое оптимальное будущее для симбиотических отношений между биологической жизнью и машинным интеллектом, измеряемых сочетанием трех факторов: счастье разумных индивидов, число таких счастливых индивидов, продолжительность жизни таких индивидов. «Пусть поможет человечеству в планировании будущего существования биологической жизни в космосе/мультивселенной, а затем станет партнером человечества в этом плане. Другими словами, пусть поможет нам жить дольше, счастливее и максимально размножаться, а также позаботится о других формах жизни».

Вот они: «У этой истории есть два развития событий, оба плохие для разного рода людей.

Он заменяет нас на рабочих местах, ускоряет технологический прогресс. 1) ИИ становится все более продвинутым, но не обзаводится сознанием. Однако остается лишь инструментом человека.

Как вы все видите, гомосапиенсы не самые приятные организмы для экологии Земли, а технический прогресс, как ни странно, не так быстро протекает, как мог бы. 2) А это, конечно, популярная история о сверхинтеллекте, который ниспровергает человека и берет его под контроль. ИИ несомненно решил бы уничтожить человека». Люди предпочитают тратить время на глупости, такие как войны или использование религии для обогащения.

Если вам нужен более высокий уровень жизни или экологии, он наверняка порекомендует убить миллиарды людей. «Если вы хотите, чтобы ИИ управлял миром, подумайте о цели, которой он должен, по-вашему, достичь. У всего есть свои недостатки». Если вам нужно как можно больше поголовья, вы будете жить в банке и питаться через трубку.

Расскажите в комментариях или в нашем чате в Телеграме. А что бы вы хотели видеть от искусственного сверхинтеллекта?

Теги
Показать больше

Похожие статьи

Добавить комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *

Кнопка «Наверх»
Закрыть