Главная » Хабрахабр » [recovery mode] Беседы с «Высшим разумом». Пределы в создании искусственного интеллекта

[recovery mode] Беседы с «Высшим разумом». Пределы в создании искусственного интеллекта

Продолжаю публиковать отрывки из книги "Высший разум". Теперь о том, почему мы так далеки от действительного искусственного интеллекта. И не факт, что сможем его достигнуть.

Ваши нейросети – это пока не более чем классификаторы сложных паттернов, которые выбирают какой-то из выходов сети, но совершенно не знают о нем ничего более чем о точке выхода. …
— Ты знаешь, что мы тоже работали над созданием искусственного интеллекта?
— Ваши разработки еще очень далеки до того, что можно назвать интеллектом. Сеть о ней ничего не знает. Это вы интерпретируете выход как «лошадь», а не сеть, распознающая ее картинку. Не понял этот тезис.
— Вам кажется, что вы сделали нейросеть, которая как человек распознает образы. Это не интеллект.
— Поясни. Но нейросеть не может различить, например, две лошади так, чтобы назвать их произвольное отличие. Она может различить лошадь и пароход. Разве это не интеллект?
— Самый совершенный ваш автопилот не может действовать так же эффективно как обычная пчела. Мозг отличается именно аналитической функцией, то, что вы называете common sense.
— Но нейросети уже многое могут то, что раньше мог только человек. А пчела — это насекомое, самое начало эволюции нейронных систем. Пчела летает без помощи дорожной разметки и ориентируется без GPS. И достигаете результата только за счет больших масштабов. Вы находитесь где-то на том же шаге в разработке интеллекта.

Только время их выработки вы сумели сжать до нескольких часов вместо тысячи лет, собрав датасет из картинок, которые жучок может увидеть только за сотню поколений. Кстати, обученные вами нейросети, с подкреплением особенно, похожи на выработку врожденных инстинктов у насекомых. Это тот уровень, которого вы достигли. Но поменять инстинктивное поведение обученной сети вы уже не можете, как и жучок свои инстинкты. Вы даже не знаете еще, что это такое, но думаете, что можете создать их. А интеллект – это память, внимание, мышление, воображение и, в конце концов, сознание. Вы не знаете как устроена память и пытаетесь создать онтологии и семантические сети, которые не имеют ничего общего с интеллектом. Это очень странно.
— Мы, видимо, очень уверены в себе.
— Пока вы даже не создали систему хранения информации как она есть в мозгу. Память – это тоже задачка, а не обращение к жесткому диску, где все храниться в готовом виде, как многие из вас думали. Интеллект – это решение задач. Вы не научились моделированию среды, о котором я писала тебе, когда мы говорили о том, что такое жизнь и разум. И даже распознание – это серия движений между точками фиксации, как видно по eyes tracker, а не распознание в один шаг.
— Наши достижения ничтожны?
— Нет, но они еще далеки от того, что является интеллектом. Вы называете это картинной мира.
— А если мы все-таки создадим когда-нибудь искусственный интеллект?
— Чтобы быть разумным, интеллекту нужно сознание себя как возможность изменять собственную программу. А это базовый функционал интеллекта. Как только вы наделите программу такой способность, то есть моделью себя с доступом к ее изменению, вы потеряете контроль над интеллектом, так как он моментально усовершенствует себя, станет умнее и начнет контролировать вас как «более умная машина». Так же как вы перепрограмируете себя через речь, обучаясь новому. Соединить биологические мозги людей в сеть. Она научится предугадывать ваши ответы раньше, чем они у вас появятся.
— Тогда мы можем усилить наш биологический мозг! Был у людей и такой сценарий. И усилить их таким образом. Даже появились проекты по нейроинтерфейсам.
— Обрабатывать больше информации биологический мозг все равно не может. Многие мои коллеги до катаклизма видели развитие в киборгизации человека, в объединении его с компьютером. Мышление – это и есть интериоризированная, то есть мысленная речь. И нет возможности его усилить — мысль находится только «на кончике языка» или моторного аксона. Никаких законченных мыслительных процессов в мозге больше нигде нет. Мышление ограничено скоростью работы этого тракта. Активация каких-либо еще нейронов мозга приведет только к дезинтеграции и потере сознания. Вся бурная деятельность мозга, которую Вы видите на МРТ, направлена на формирования одного очередного слова. Увеличить скорость обработки просто невозможно, так как в этом есть биологический предел, определяемый работой нейронов. Или к эпилепсии. Так же, как если бы аборигены решили полететь в космос, полагая, что он находится на кончике самого высокого дерева. Эволюция бы сама не упустила такую возможность, если бы она была.
— Но у человечества были проекты по нейроинтерфейсам, которые увеличат память.
— Это очень наивно. Внешние связи не усилят мозг. Нейроны не могут хранить больше, чем хранят уже, если их самих не стимулировать образовывать новые связи. Она не заговорит как человек. Нет в мозгу и нейронов, которые ждут, что на них что-то запишут.
— То есть ты считаешь, что все эти проекты не помогут нам стать умнее?
— Бесполезно к мозгу шимпанзе прикреплять электронные чипы. Все что вы можете совершенствовать в мозге – это наделить его более совершенными знаниями. Это структурное ограничение. Вы не можете поменять в корне свои базовые представления, однажды их усвоив. Но и тут есть ограничения. Потому что мне надо излагать тебе понятия, которых у вас даже нет. Здесь я уже не могу тебе пояснить почему.
— Это настолько сложно?
— Нет. Представь, что тебе надо объяснить понятие времени на языке криков шимпанзе. Мне трудно тебе объяснить их так, чтобы было точно, но при этом понятно. Ваше мышление построено на очень примитивных схемах, например, схемах вашего тела, и вы не можете понять, что можно рассматривать процесс совсем иначе. Наши системы знаний очень разные.
— Неужели мы совсем не можем понять то, что знаете вы?
— Некоторые аспекты – совсем. Например, вы не можете представить время многомерным. Ваше мышление телесно укоренено. И вы не можете преодолеть это ограничение. Потому что время для вас линейно как путь, метафорой которого оно является. Отсюда представления об иерархии, что совершенно неверно – в реальности нет никаких иерархий, это иерархия понятий, но не явлений в природе.
— Но мы разумные существа, а значит найдем способ обойти такие ограничения.
— Некоторые из них обусловлены вашим строением. Так же и со многими другими понятиями – их истоки лежат через метафору в совсем примитивных понятиях древних людей, такими как власть сверху (властители всегда говорили с возвышения). Вы не можете видеть сразу через тысячу труб, только последовательно. Например, ваше познание ограничено одноканальным сознанием, которое похоже на взгляд на небо через подзорную трубу. И из-за того, что у каждого своя голова и свои, отличные от других представления и опыт, согласовать картину будет очень трудно. Если же вы выстроите вряд тысячу астрономов, наблюдающих в разные части неба через телескопы, то вам придется долго разговаривать и рисовать коллективный рисунок звездного неба, чтобы создать общую для всех целостную картину. Каждый же из вас носит свой отдельный мир в черепной коробке. На это уйдет очень много времени, за которое картина на небе уже многократно сменится. Это только понятный тебе пример. И пытается согласовать его с другими через узкий канал знаковой коммуникации. Но тут есть решения, мы выкладываем знания в сеть и делаем совершенные поисковые алгоритмы. Этим мы отличаемся от вас — мы находимся в одной сети с прямым доступом каждого к знанию других.
— Договориться нам действительно трудно. Тебе все равно придется перекладывать найденное знание на свое представление. Это похоже на то, что ты говоришь про вас?
— Это все равно доступ к другому мнению кого-то, но не к системе его знаний. У нас нет отдельной модели у каждого. Интерпретировать в своей модели, которая у тебя в голове. Потому что мы в одной сети. Она как бы общая на всех. Они служат основой для создания новых представлений через метафоры. Новое знание сразу становится доступным всем.
— Мы тоже можем создавать такое новое знание только из того, что прочитали.
— Создавая новое знание, вы тащите из прошлого свои представления о мире. В итоге вы оказываетесь у предела познания, пока не отбросите старые схемы мышления и не пересмотрите все стоящие на них знания как со временем. Поэтому в основе даже новых представлений лежат старые взгляды на мир. Об этом писал ваш историк Т. Это ограничивает ваши возможности в познании. Например, вы считаете мир константным, конечным и логичным. Кун.
— Но значит, мы можем их менять, раз мы сами пишем об этом.
— Не все. Что не верно. А время линейным. Такие фундаментальные понятия, лежащие в основе всех ваших представлений, вы не можете отбросить и заменить на другие. В наших формулах, например, нет времени. При все увеличивающемся потоке знаний парадигмы остаются прежними. Это создает своего рода предел ваших возможностей, потолок знаний. Чтобы понять, что они есть на самом деле, вам надо выйти за пределы собственных ощущений, отвергнуть их как нечто очевидное. В силу этого у нас есть подозрения, что вы не способны понять даже самих себя.
— Почему?
— Потому что вы находитесь внутри собственных чувств, и считаете их тем, что и есть мир. Например, вы считаете сознание единым актом и не различаете его с восприятием, а это тоже неверно. Оно не очевидно. Ваши чувства вас обманывают, но вы находитесь у них в плену.


Оставить комментарий

Ваш email нигде не будет показан
Обязательные для заполнения поля помечены *

*

x

Ещё Hi-Tech Интересное!

[Перевод] Конференция DEFCON 18. Троллим реверс-инжиниринг с помощью математики

Троллинг с помощью математики — вот о чем я собираюсь поговорить. Это не какие-то модные хакерские штучки, скорее это художественное самовыражение, забавная разумная технология для того, чтобы люди посчитали тебя придурком. Сейчас я проверю, готов ли мой доклад для отображения ...

О преимуществах встраивания CSS в JS

Автор оригинала, Сунил Пай, является автором относительно популярной библиотеки glamor и работает разработчиком в Facebook. Этот пост является развернутым ответом на вопросы из этого разговора в Твиттере. Как написание CSS внутри JS делает его более поддерживаемым? Каким образом Javascript оказывается ...