Хабрахабр

[Перевод] Конференция DEFCON 25. Гарри Каспаров. «Последняя битва мозга». Часть 1

Для меня большая честь присутствовать здесь, но, пожалуйста, не нужно меня взламывать. Компьютеры и так меня ненавидят, так что мне нужно подружиться с как можно большим числом людей в этом зале. Хочу привести один маленький пустяк из моей биографии, интересный для американской аудитории. Я родился и вырос на самом юге страны, прямо рядом с Джорджией. Это на самом деле правда. Подождите секундочку, я же говорил, что компьютеры меня ненавидят!

переводчика: название штата Джорджия и республики Грузия по-английски звучит одинаково). Один слайд потерялся, но это действительно самый юг СССР, где я родился в республике, которая была расположена прямо по соседству с Республикой Джорджия (прим.

Это не было синопсисом «Игры тронов», речь шла о Владимире Путине и борьбе за свободный мир, но когда я проводил тур презентации этой книги, все хотели спросить меня о шахматах и компьютере IBM Deep Blue. Если говорить о моей родине, забавно то, что моя последняя книга «Deep Thinking» была написана об искусственном интеллекте, о моем собственном опыте сражений с компьютерами, а книга, написанная за два года перед этим, называлась «Зима приближается». Но я стараюсь придерживаться темы, и я уверен, что после этой презентации будут несколько вопросов, на которые я буду рад ответить. Сейчас, когда я презентую книгу «Deep Thinking», все хотят спросить меня о Путине. Я не политик, поэтому не уклоняюсь от ответов на вопросы.

Может показаться странным, что игра в шахматы, возникшая тысячи лет назад, Бог знает когда, является идеальной аналогией искусственного интеллекта, потому что когда мы говорим об AI, мы должны помнить, что буква I означает «интеллект», и нет ничего, что демонстрирует это лучше, чем шахматы.

Если посмотреть на творения Голливуда, то все играют в шахматы – инопланетяне, люди Х, Визард, вампиры. Многие люди считают, что шахматы не более чем забава, которой предаются люди в кафе. Он играет французскую защиту, которая была очень популярна в начале 40-х годов. Моя любимая картина «Касабланка» с Хэмфри Богартом тоже про шахматы, и когда я пересматриваю этот фильм, мне всегда хочется встать в такую позицию, чтобы заглянуть внутрь экрана и увидеть, доску Богарта. Я думаю, Богарт был довольно приличным шахматистом.

Поэтому не удивительно, что игра в шахматы привлекает тех, кто хотел создавать умные машины. Хочу упомянуть, что Альфред Бине, один из соавторов IQ-теста конца 19 века, восхищался умом шахматистов и изучал его на протяжении многих лет. Но в конце 18 века этот шахматный автомат был большим чудом, он гастролировал по Европе и Америке и сражался с сильными и слабыми игроками, такими, как Франклин и Наполеон, но конечно, всё это был обман. Однако часто бывает так, что интеллектуальные машины, такие, как «Турок» фон Кемпелена, являются просто грандиозным надувательством. «Турок» не был настоящей машиной, это была оригинальная механическая система из скользящих панелей и зеркал, внутри которой прятался сильный игрок – человек.

Так что теперь нам приходится искать компьютер, спрятанный в людском теле. Интересно то, что спустя сто или двести лет, в течение последнего двадцатилетия, наблюдается противоположная ситуация – мы наблюдаем на турнирах, что игроки-люди пытаются спрятать компьютерные девайсы в своих карманах.

Первое механической устройство для игры в шахматы появилось в 1912 году, оно играло при помощи одной механической части, могло сделать мат ладьей, но его нельзя было назвать прототипом первого компьютера. Однако истории с механическими устройствами сравнительно малоизвестны.

Они верили, что игра в шахматы может раскрыть секреты искусственного интеллекта. Интересно то, что создали основ компьютерного дизайна, такие как Алан Тьюринг и Клод Шеннон, проявляли большой интерес к шахматам. И если однажды компьютер победит обычного шахматиста или чемпиона мира по шахматам, это будет проявлением эволюции ИИ.

Это был просто алгоритм, который он использовал, чтобы играть в шахматы, и он действовал как человеческий компьютерный процессор. Если помните, Алан Тьюринг в 1952 году создал первую компьютерную программу для игры в шахматы, и это было великим достижением, но ещё более значимым было то, что тогда ещё не было никаких компьютеров. Противоположным путем является то, что мы называем атакой brute-force, или быстрым перебором возможных вариантов ходов. Важно помнить, что отцы-основатели компьютеров определили путь, по которому должен был развиваться ИИ, следуя процессам человеческого мышления.

На то время было 4 ведущих производителя шахматных компьютеров, которые как раз представили их миру. Я ничего не слышал о соревнованиях с компьютерами в 1985 году, но на этой фотографии вы можете увидеть 32 доски, и хотя я играл с людьми, но на самом деле это была реальная игра против компьютеров. У каждого производителя было по 8 компьютерных модулей, так что реально я играл с 32 противниками и выиграл все партии. Возможно, у кого-то из вас ещё сохранились такие компьютеры, сейчас это настоящие раритеты.

Очень важно то, что это было не сюрпризом, а естественным результатом, и каждый раз, когда я смотрю на эту фотографию, где запечатлена моя победа, то вспоминаю об этом времени как о золотом веке шахматных машин, когда они были слабыми, а мои волосы – густыми.

В 1997 году был матч-реванш, потому что я выиграл первый матч, который состоялся в 1996 году в Филадельфии. Итак, это был июнь 1985 года, а спустя 12 лет я сыграл против всего лишь одного компьютера. Затем я выиграл 3 партии, и счёт стал 4:2 в мою пользу. Я проиграл этот матч-реванш, но отмечу ради справедливости, переломный момент в компьютерных шахматах состоялся не в 1997, а в 1996 году, когда я выиграл матч, но проиграл первую партию.

Я не ожидал от IBM, что они смогут за год проделать такую серьезную техническую работу по усилению своего компьютера. На самом деле, здесь важен факт, что компьютер в то время был способен стать чемпионом мира по шахматам, если бы играл в обычном шахматном турнире. Потому что одной из проблем 1996 года, с которой я столкнулся, играя с компьютером Deep Blue, было то, что для меня он являлся «черным ящиком». Но самой большой моей ошибкой, за исключением резкого повышения курса акций IBM, которые через 2 недели после матча подскочили с нескольких пунктов до миллиарда долларов, была невозможность прочитать мелкий шрифт. Обычно, когда ты готовишься к игре, то изучаешь противника, неважно, будет ли это шахматный матч или футбольный, и, наблюдая за манерой игры, изучаешь его стратегию. Я ничего не знал о сопернике, о том, как он думает, какую тактику использует. Но в отношении «манеры игры» Deep Blue не было никакой информации.

Они ответили: «Конечно!», но при этом добавили мелким шрифтом: Я постарался быть умнее и заявил, что к следующему матчу у меня должен быть доступ к играм, сыгранным Deep Blue.

«…только во время официальных соревнований».

Так что в 1997 я играл против «черного ящика», и всё получилось противоположно событиям 1996 года – я выиграл первую партию, но проиграл матч. И это при том, что Deep Blue не сыграл ни одной игры вне лабораторных стен.

Правда, когда я пробегаю взглядом по рядам присутствующих, то понимаю, что многие из вас, наверное, тогда ещё не родились. К слову, где были вы, хакеры, 20 лет назад, когда так были мне нужны?

Я думал, что он будет великим, потому что действительно найдёт ту область, где человеческую интуицию можно сравнить с «грубой силой» компьютерных вычислений. Самой большой моей ошибкой было то, что я воспринимал матч с Deep Blue как великий научный и социальный эксперимент. Его игра не внесла никакого вклада в раскрытие тайны человеческого интеллекта. Однако Deep Blue со своей феноменальной скоростью вычислений порядка 2 миллионов шахматных позиций в секунду, что было совсем неплохо для 1997 года, был чем угодно, но только не искусственным интеллектом.

Он был разумен не более, чем обычный будильник, однако мне не легче от того, что я проиграл будильнику стоимостью 10 миллионов долларов.

Поскольку у нас была одна победа и один проигрыш, я хотел сыграть третий матч, чтобы выяснить, кто же все-таки сильнее, но они разобрали компьютер, видимо, чтобы убрать единственного беспристрастного свидетеля. Я помню пресс-конференцию во время церемонии открытия матча, когда человек, возглавлявший проект IBM, сказал, что это ознаменует конец научных опытов и победу науки. Позже я узнал, что он сделал новую карьеру и теперь готовит суши в одном из терминалов аэропорта имени Кеннеди. Я пытался выяснить, что случилось с Deep Blue, но не смог это узнать.

Итак, на этом моя история с компьютерными шахматами довольно быстро закончилась. Я люблю суши, но компьютер мне там не нужен. Даже игроки высочайшего уровня делают ошибки, например, во время матча на звание чемпиона, где делается 50 или 45 ходов, неизбежна хотя бы одна крохотная ошибка. Но те из вас, кто тоже играет в шахматы или другие игры, знают, насколько мы уязвимы по сравнению с компьютерами, потому что мы не настолько стабильны, беспристрастны и совершаем ошибки. Если играют живые люди, она не имеет особого значения, но если вы делаете ошибку при игре с машиной, то возможно, что вы не проиграете, но и не выиграете, потому что машина сумеет избежать поражения.

Годы спустя мы стали свидетелями того, что машины постоянно выигрывали матчи. В какой-то момент я понял, что это просто вопрос времени, потому что мы не можем достигнуть такого же уровня бдительности и точности, которая необходима для победы над компьютером, потому что машина необычайно стабильна в своих поступках. Это не искусственный интеллект, поэтому люди совершают ошибку, когда говорят, что человек — шахматист был побежден искусственным интеллектом. Ещё раз повторюсь – это всё касается всего лишь игры в шахматы, которая очень уязвима к методу игры brute-forсe, когда компьютер с огромной скоростью перебирает множество вариантов ходов и выбирает самый оптимальный.

Однажды я проанализировал эти игры, используя современные шахматные движки, и это был довольно болезненный опыт. Позже я сыграл еще несколько матчей против компьютеров. Однако в то время компьютерный «демон» не был настолько силён, вы можете не верить, но бесплатное шахматное приложение на вашем мобильном устройстве на сегодня сильнее, чем был Deep Blue. Это было путешествие в прошлое, и я был вынужден признать, насколько слабо провел эти матчи, потому что мог пенять только на самого себя. Но сегодня, с современным компьютером, это выглядит просто смешным. Конечно, если у вас есть шахматный движок типа asmFish или Comodo и новейший ноутбук, эта система будет еще мощнее.
Когда я играл против Deep Blue, думаю, это была 5 игра, компьютер в эндшпиле поставил вечный шах, и все стали говорить, что это великая победа и что компьютер показал феноменальное качество игры. В начале я сделал ошибку, потом попытался спасти игру, Deep Blue сделал несколько ответных ходов и выиграл. Весь наш матч можно сыграть за 30 секунд, максимум минуту в зависимости от производительности вашего ноутбука. Таковы правила игры, и в этом нет ничего плохого.

Организаторы заставили меня надеть 3-D очки, потому что компьютер имел 3-х мерный интерфейс. В 2003 году я сыграл ещё 2 матча против компьютера X3D Frintz, они оба закончились вничью.

Посмотрите на эту фотографию, которая была сделана в начале этого века. Но в любом случае, история была закончена и я думал о будущем.

Сегодня мои дети даже не поймут, что это такое. Если посмотреть на этих детей, видно, что они играют на раритетных компьютерах. Здесь изображены какие-то сложные клавиатуры, а сейчас они просто скользят пальцами по тачскрину.

Вероятно, я зря говорю это, потому что вы это знаете лучше, чем кто-либо другой. Важно то, что более интеллектуальные машины делают наши задачи намного легче. Таким образом, с помощью Свинки Пеппы и технических задач расчищается путь для подлинного творчества.

В качестве примера можно взять шахматы, потому что в шахматах имеется решение. Я задумался о том, как же можно соединить силу компьютера и человека? И тогда мне на ум пришла концепция, которую я назвал «продвинутые шахматы». Вы прекрасно знаете, в каких областях компьютер силен, а в каких уступает человеку.

Следуя русской поговорке: «если не можешь победить – присоединяйся!», я назвал продвинутыми шахматами игру, когда один человек с компьютером сражается против другого человека с компьютером.

Я задался вопросом, почему два великих игрока не смогли извлечь пользу от сотрудничества с ИИ. В 1998 году я играл с представителем шахматной элиты из Болгарии, и самое интересное то, что мы оба не смогли хорошо сыграть, потому что не смогли максимизировать эффект от совместной работы с компьютером. Вы можете играть, подключившись к суперкомпьютеру через интернет, можете использовать собственный компьютер или много компьютеров. Ответ пришел позже с введением так называемого фристайла с ограничением количества подсказок со стороны компьютера. Причина очень проста – компьютер компенсирует нашу рассеянность, и мы оказываемся в хорошем положении, переключаясь на компьютер, потому что это исключает уязвимость, когда другой компьютер может воспользоваться нашей человеческой слабостью.
Но в этом нет ничего сенсационного. Я хочу заметить, что пара «человек-компьютер» всегда превзойдет любой суперкомпьютер. Это трудно сформулировать, потому что оно звучит парадоксально: слабый игрок плюс обычный компьютер плюс улучшенный процесс превосходят сильного игрока с мощным компьютером, но слабым процессом взаимодействия. Сенсацией стало то, что победителями соревнования стали не игроки высшего класса, а относительно слабые шахматисты с обычными компьютерами, но зато сумевшие создать улучшенный процесс взаимодействия. Интерфейс решает всё!

Если сегодня рассматривать относительно сильные стороны человека и компьютера, можно выйти за пределы шахмат, но давайте начнем все-таки с них, потому что в шахматах имеются числа. Интересно то, что вам совсем не нужен сильный игрок, не нужен Гарри Каспаров, для того, чтобы находясь на стороне машины, найти наилучший ход, и на это есть простой ответ. На сегодня Магнус Карлсен возглавляет рейтинг выше 2800 баллов. Итак, мой рекордный шахматный рейтинг составлял 2851 балл, пока я не проиграл Магнусу Карлсену, и в момент завершения моей шахматной карьеры он составлял 2812 баллов. Это элита шахматного мира. Примерно 50 игроков имеют рейтинг между отметками 2700 и 2800 баллов. В наши дни мощь компьютера находится в пределах 3200 баллов, а с учетом специализированного программного обеспечения его рейтинг может достичь 3300-3400 баллов.

Потому что игрок моего уровня будет стараться подтолкнуть компьютер действовать в том или ином направлении, вместо того, чтобы быть при нем простым оператором. Теперь вы поняли, почему вам не нужен сильный игрок? Поэтому более слабый шахматист, который не имеет такого «гонора» и такого самомнения, как чемпион мира по шахматам, будет взаимодействовать с компьютером намного эффективнее и образует более продуктивную комбинацию «человек-компьютер».

Как известно, компьютеры во многих случаях способны поставить более точный диагноз, чем это делают лучшие врачи. Я думаю, что это очень важное открытие не только для шахмат, но и, например, для медицины. Так чего бы вы больше хотели: хорошего доктора в лице компьютера или хорошую медсестру, которая будет просто следовать инструкциям и составлять небольшое руководство на основании рекомендаций машины?

Если посмотреть на сегодняшний технический прогресс, то можно сказать, что компьютеры ставят правдивый диагноз в 80 – 85 — 90 % случаев, но 10% все равно остаются людям! Я не знаю точные цифры, предположим, 60-65% людей выберут доктора, а 85% будут за компьютер, но психологически, если вы хороший доктор, вы не сможете это принять. Вопрос касается того, способны ли мы направить в нужное русло всю мощь компьютерных вычислений.
Поэтому я до сих пор верю, что все страхи по поводу того, что машины вскоре заменят всех нас, и это станет концом света, Армагеддоном — всего лишь слухи. А это может представлять собой огромную разницу, ведь когда при выстреле пуля отклоняется всего на 1 градус, то она может пролететь на расстоянии нескольких сотен метров от мишени. Потому что, как я сказал, это касается творческих способностей человека, и уникальность компьютерного интеллекта состоит в том, что он всего лишь усиливает наши творческие способности, высвобождает их и подсказывает, как использовать их наилучшим образом.

Как-то я нашел отличный парадокс, изложенный великим художником Пабло Пикассо: «Компьютеры бесполезны. Иногда, чтобы найти ответ на вопрос, стоит отойти от мира науки и углубиться в мир искусства. Я думаю, что в этом заключается великая мудрость и эти слова звучат обнадеживающе, потому что машины все же дают ответы, и эти ответы исчерпывающие! Единственное, что они могут – это давать ответы».

Это связанно с постоянным переосмыслением искусства, это именно то, что мы постоянно делаем – задаем вопросы. Однако Пикассо не удовлетворяли исчерпывающие ответы, потому что он был художником. А могут ли компьютеры задавать вопросы?

Мы говорили о том, могут ли машины задавать вопросы, и Дэйв сказал: «Да, компьютеры могут задавать вопросы, но они не знают, какие из вопросов действительно имеют значение». Однажды я посетил хеджевый фонд Bridgewater Associates, где собирался поговорить с Дейвом Феруччи, одним из разработчиков суперкомпьютера Watson IBM. Таким образом, мы всё еще в игре и у нас есть шанс двигаться дальше, потому что игра человека и компьютера еще не закончена. Вот в чем заключается суть.

На этом слайде вы видите несколько фотографий возможных областей использования автономных компьютеров, машин, которые могут программировать сами себя, то есть обладают способностями к обучению.

На самом деле это, вероятно, первая машина, которую можно назвать прототипом искусственного интеллекта. На одной из фотографий изображен Демис Хассабис со своей самообучающейся нейронной сетью AlphaGo.

AlphaGo — это программа глубинного обучения, которая самосовершенствуется, находя соответствующие модели, играя в миллионы и миллионы игр. Как я уже сказал, Deep Blue – это перебор brute-force, Watson – возможно, переходное звено, но не ещё не ИИ.

Потому что, например, если мы потратим сотню лет на изучение тысячи миль игровых логов Deep Blue, то в конце концов доберемся до оригинальной идеи, почему было принято именно это решение и сделан именно этот ход. Я могу сказать, что в случае AlphaGo мы впервые имеем дело с настоящим «черным ящиком». Что же касается AlphaGo, я уверен, что даже сам Демис Хассабис не сможет сказать, чем версия 6 лучше версии 9, или наоборот, имея в виду решение, принятое этой машиной.

Однако в любом случае это движение в сторону создания настоящего ИИ. С одной стороны, это большое достижение, а с другой стороны это может быть проблемой, потому что если машина сделала ошибку, вы не сможете об этом узнать.

Эта было очень интересно, потому что данная компания уверенно движется в направлении создания ИИ, решая проблемы создания самоуправляемого автомобиля или автономных дронов, самостоятельно доставляющих грузы. Как-то я выступал в штаб-квартире Google, и они организовали мне экскурсию по Google X. Люди говорят о том, что ИИ может полностью заменить их, лишив работы. Однако не меньшей проблемой, чем техническое обеспечение ИИ, является проблема регулирования его деятельности. Однако давайте призовем на помощь историю человеческой цивилизации – подобное происходило сотни и тысячи лет!

24:35 мин

Гарри Каспаров. Конференция DEFCON 25. Часть 2 «Последняя битва мозга».

Вам нравятся наши статьи? Спасибо, что остаётесь с нами. Поддержите нас оформив заказ или порекомендовав знакомым, 30% скидка для пользователей Хабра на уникальный аналог entry-level серверов, который был придуман нами для Вас: Вся правда о VPS (KVM) E5-2650 v4 (6 Cores) 10GB DDR4 240GB SSD 1Gbps от $20 или как правильно делить сервер? Хотите видеть больше интересных материалов? (доступны варианты с RAID1 и RAID10, до 24 ядер и до 40GB DDR4).

6GHz 14C 64GB DDR4 4x960GB SSD 1Gbps 100 ТВ от $199 в Нидерландах! Dell R730xd в 2 раза дешевле? Только у нас 2 х Intel TetraDeca-Core Xeon 2x E5-2697v3 2. 2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB — от $99! Читайте о том Как построить инфраструктуру корп. Dell R420 — 2x E5-2430 2. класса c применением серверов Dell R730xd Е5-2650 v4 стоимостью 9000 евро за копейки?

Теги
Показать больше

Похожие статьи

Добавить комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *

Кнопка «Наверх»
Закрыть