Hi-Tech

OpenAI хочет создать всемогущественный ИИ. Но в хорошем смысле

Они сели за ряд компьютерных клавиатур, их громко приветствовала толпа из нескольких сотен человек. В одну из суббот прошлого месяца пять мужчин возрастом от 19 до 26 лет уверенно вышли из облака пурпурного дыма в переделанном автосалоне в Сан-Франциско. Команда OG, мировые чемпионы самой прибыльной в мире соревновательной игры Dota 2, проиграли две игры подряд команде ботов с искусственным интеллектом. Спустя девяносто минут интенсивных щелчков мыши улыбки пятерки стали унылыми, а аплодисменты — утешительными.

И все же, прислонившись к стене за кулисами, Сэм Альтман — генеральный директор исследовательского института OpenAI, который разработал этих ботов, испытал праздничное облегчение. Этот результат стал примечательным, потому что сложные видеоигры математически сложнее настольных игр вроде шахмат или го.

Искусственный интеллект против дотеров

Он стал CEO OpenAI в марте, после ухода с поста президента влиятельного инкубатора стартапов YCombinator. «Мы все весьма нервничали тем утром — я думал, что шансы 60 на 40», говорит Альтман. Чтобы преуспеть на новой должности, Альтману нужны были боты, которые не просто побеждают людей в видеоиграх — ему нужны были боты, которые лучше людей во всем.

Такие технологии — общий искусственный интеллект, «сильный» искусственный интеллект, или ОИИ (AGI) — пока даже на горизонте не маячат, но OpenAI утверждает, что и она, и другие стремительно прогрессируют. Заявленная миссия OpenAI заключается в том, чтобы гарантировать, что от любого будущего ИИ, способного превзойти «людей в наиболее экономически выгодной работе» выиграет все человечество. И снискала обвинения в раздувании шумихи на тему ИИ, а также в фиксации на ОИИ и потенциальных угрозах искусственного интеллекта. Организация показала, что может проводить исследования на уровне лучших в мире.

Будучи прежде председателем совета директоров этой организации, он занял пост генерального директора после того, как помог перевести большую часть некоммерческого персонала в новую коммерческую компанию, надеясь привлечь инвесторов с миллиардами, необходимыми для формирования судьбы ИИ и человечества. По плану Альтмана, исследования OpenAI — и провокации — должны только набирать темп. «Я не хочу быть в мире, в котором ОИИ создаст одна компания, захватит всю его ценность и будет принимать все решения», говорит он. Альтман говорит, что крупные технологические лаборатории в Alphabet и остальных компаниях должны испытывать давление со стороны коллег, не стремящихся увеличить свою акционерную стоимость.

Летом 2015 года он поговорил с Альтманом и несколькими другими за ужином и предложил создать исследовательскую лабораторию, независимую от технологического сегмента, которая направила бы ИИ в позитивное русло. На мероприятии MIT в конце 2014 года генеральный директор Tesla Илон Маск описал исследования на тему ИИ как попытку «вызвать демона». В начале 2018 года Маск покинул совет директоров, сославшись на потенциальные конфликты с другими его ролями. В том же году была создана OpenAI, в которой оказались Альтман и Маск.

Илья Суцкевер, соучредитель организации, который ушел с руководящей должности по исследованиям ИИ в Google, курирует персонал, в который входят бывшие выходцы из Google, Facebook, Microsoft и Intel. За свою недолгую жизнь OpenAI позиционировала себя как серьезное место для исследований ИИ. Победа над командой OG в Dota 2 принесла им уважение в области ИИ и гейминга. Их работы на тему робототехники и машинного обучения появлялись на самых престижных конференциях.

В 2015 году OpenAI заявила, что у нее в распоряжении 1 миллиард долларов, полученный от Альтмана, Маска, соучредителя LinkedIn Рейда Хоффмана, раннего инвестора Facebook Питера Тиля и Amazon. Превращение OpenAI в коммерческую корпорацию было вызвано ощущением, что для того, чтобы идти в ногу с такими гигантами, как Alphabet, потребуется доступ к постоянно растущим вычислительным ресурсам. «Денежный объем, который нам необходим для успеха миссии, намного больше, чем я думал», говорит он. Теперь Альтман говорит, что одного миллиарда будет недостаточно.

С тех пор ее расходы, вероятно, значительно выросли. Заявки IRS показывают, что в 2017 году, когда OpenAI показала своего первого бота-дотера, она потратила 8 миллионов долларов на облачные вычисления. Победившая чемпионов версия тренировалась в течение 10 месяцев, что эквивалентно 45 000 годам игры в Dota 2 против самой себя. В 2018 году OpenAI объявила, что предшественник системы, победившей OG, связывал более 120 000 процессоров, арендованных у облачного подразделения Google, в течение недель. Грег Брокман, CTO OpenAI говорит, что на проект ушли «миллионы долларов», но не раскрывает подробности. Сколько это стоило?

Организация пристально следит за новыми чипами, разрабатываемые Google, и множеством стартапов, чтобы выжимать из алгоритмов машинного обучения еще больше. Альтман не уверен, что OpenAI и дальше будет полагаться на облачные сервисы конкурентов — он по-прежнему открыт для покупки или даже для разработки оборудования для искусственного интеллекта.

Вложите деньги в OpenAI, подождите, и компания вернет вам вложения стократ — как только изобретет роботов, которые превосходят людей в большинстве экономически ценных задач. Чтобы привлечь средства, необходимые для доступа к будущему оборудованию, Альтман попытался продать идею инвесторам по схеме, дикой даже для Кремниевой долины.

Самый большой интерес, по его словам, проявляют заинтересованные в ИИ богатые люди. Альтман говорит, что соответствие этим ожиданиям было «самым интересным опытом сбора средств в моей жизни — он не подойдет ни для какой иной модели». Никто не говорит, когда ожидать возврата средств, но ставки на OpenAI — не для нетерпеливых. Hoffman и венчурная фирма Khosla Ventures инвестировали в новый коммерческий OpenAI, но не ответили на запросы о комментариях. «Мы сразу им говорим, что вы не получите средств в ближайшие 10 лет», говорит Альтман. Компаниям сообщают, что время возврата их средств может превышать стандарт отрасли (десять лет).

В феврале компания раскрыла подробности о ПО для обработки языка, которое было способно генерировать на удивление живой текст. Несмотря на все старания, OpenAI часто критикуют лидеры отрасли. Некоторые сразу же назвали изобретение «опасным» и высказали опасения, что его можно использовать во вред, чтобы замусорить социальные сети.

В своих постах на Facebook он защищал открытую публикацию исследований на тему ИИ и шутил, что людям стоило бы перестать заводить детей, поскольку однажды те будут публиковать фейковые новости. Некоторые видные люди в области исследования ИИ были раздражены, включая главного по ИИ в Facebook Яна Лекуна.

«Они проводят плюс-минус те же самые исследования, как и остальные, но хотят привлечь миллиарды долларов», говорит Захари Липтон, профессор машинного обучения в Университете Карнеги-Меллона. Для некоторых этот эпизод подчеркнул, что миссия OpenAI не сильно отличается от других корпоративных или академических лабораторий. «Единственный способ сделать это — слегка покривить душой».

«Технологическая отрасль проделала не очень хорошую работу, пытаясь проявлять инициативу в отношении злоупотреблений», говорит он. Альтман признает, что OpenAI, возможно, забила тревогу слишком рано, но говорит, что это лучше, чем опоздать. Самоцензура необходима и самой OpenAI.

Эксперты в области Dota 2 и несколько новичков играли в командах вместе с ботами. После поражения OG в прошлом месяце, дабы выразить сочувствие, OpenAI решила провести второй эксперимент, призванный продемонстрировать благоприятную сторону сверхчеловеческого ИИ.

Вместо этого оно сосредоточилось на победе, следуя инстинктам, отточенным месяцами дорогостоящих тренировок. Программное обеспечение, которому не повезло стать партнерами нубов по команде, по большей части проявило сверхчеловеческое безразличие к помощи начинающему игроку.

Даже Альтман напуган масштабами проблемы. Никто не знает, как сделать узконаправленный ИИ более гибким или какие компоненты могут понадобиться, чтобы сделать ОИИ большим, чем технологическая фантазия. «У меня бывают дни, когда я верю, что все это произойдет, и дни, когда все это кажется несбыточной мечтой», говорит он.

Давайте обсудим в нашем чате в Телеграме. Как думаете, получится у него?

Показать больше

Похожие публикации

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *

Кнопка «Наверх»