Hi-Tech

Конец эпохи Nvidia? Graphcore разработала чипы на базе вычислительных графов

Чипы искусственного интеллекта — самая переломная инфраструктура для искусственного интеллекта. Искусственный интеллект — самая переломная (во всех смыслах) технология нашего времени. Как будут расширяться границы закона Мура с появлением IPU? Если исходить из этих двух предпосылок, влияние того, что Graphcore планирует массово выпустить в мир, не поддается описанию. Одно можно сказать наверняка: Nvidia стоит бояться и переживать. Какое аппаратное и программное обеспечение нас ждет?

Graphcore — популярнейшее название в мире чипов ИИ, уже давно появилось на радарах крупных технических изданий. Если везением можно назвать умение быть в нужном месте в нужное время, можно сказать, что мы с вами везунчики. Издательству ZDnet удалось пообщаться с основателями Graphcore до того, как они сами представили последние новости.

Теперь Graphcore официально «единорог» с оценкой в 1,7 миллиарда долларов. Graphcore, если вы еще не знали, только что получила очередные 200 миллионов долларов финансирования от BMW, Microsoft и ведущих финансовых инвесторов на масштабирование самого продвинутого в мире чипа ИИ. Нетрудно догадаться, что назревает что-то очень большое. Среди партнеров компании — Dell, Bosch и Samsung. Но давайте по порядку.

Узнать, как работает мозг — это одно. Смоделировать чипы — другое

Ранее Тун и Ноулз работали с такими компаниями, как Altera, Element14 и Icera, которые достигли общей стоимости в миллиарды долларов. Graphcore базируется в Бристоле, Великобритания, и была основана ветеранами полупроводниковой промышленности Найджелом Туном, CEO, и Саймоном Ноулзом, CTO. Тун уверен, что они могут — и смогут — перевернуть полупроводниковую отрасль сильнее, чем когда-либо прежде, сломав практическую монополию Nvidia.

В этой области есть и другие игроки, но Тун уверен, что только у Nvidia есть четкая, последовательная стратегия и эффективный продукт на рынке. Nvidia — главный игрок в области ИИ, благодаря ее чипам GPU, и все это развивается. В качестве примера он приводит успех мобильных процессоров ARM. Есть еще Google, который инвестирует в чипы ИИ, но Toon утверждает, что у Graphcore есть ведущее преимущество и фантастическая возможность построить империю с чипами IPU (Intelligent Processor Unit).

Машинное обучение и искусственный интеллект — самые быстро развивающиеся и переломные технологии. Чтобы понять, в чем причина его уверенности, уверенности его партнеров и инвесторов, нам нужно понять, что именно делает Graphcore и что отличает ее от конкурентов. Машинное обучение, которое лежит в основе искусственного интеллекта в наши дни, очень эффективно в нахождении паттернов и закономерностей, и работает на основе комбинации соответствующих алгоритмов (моделей) и данных (обучающих наборов).

Хотя такие крайние заявления сомнительны, факт остается фактом: большая часть машинного обучения связана с эффективными операциями с данными в масштабе. Некоторые люди называют искусственный интеллект перемножением матриц. Их архитектура изначально разрабатывалась для обработки графики, но показала себя крайне эффективно и в операциях с данными. Именно поэтому GPU так хорошо справляются с нагрузками машинного обучения.

Инвестировала в совершенно новую архитектуру. Что сделала Graphcore? Тун отмечает, что в конкурентной борьбе эффективно строятся специализированные чипы (ASIC), которые хорошо справляются с определенными математическими операциями с данными, оптимизированными под определенные задачи. Именно поэтому Тун считает, что у нее есть преимущество над другими вариантами. Но для завтрашних нагрузок это уже не подойдет.

Говорят, Graphcore создает нейроморфный чип ИИ: процессор, созданный по образу человеческого мозга, с его нейронами и синапсами, отраженными в архитектуре. Что же такого особенного в собственной архитектуре Graphcore? Но Ноулз развеивает это мнение:

Но сильные и слабые стороны кремния сильно отличаются от свойств влажной вычислительной начинки. «Мозг — отличный пример для компьютерных архитекторов в этом новом смелом начинании машинного интеллекта. То же самое и с вычислениями. Мы не копировали образцы природы ни в летательных аппаратах, ни в передвижении на поверхности, ни в двигателях, потому что наши инженерные материалы другие.

Но базовый анализ эффективности использования энергии сразу же заключает, что электрический всплеск (два пика) в два раза менее эффективен, чем передача информации одним пиком, поэтому следование мозгу уже не будет хорошей идеей. К примеру, большинство нейроморфных компьютерных проектов выступают за коммуникацию посредством электрических импульсов, как в мозге. Я думаю, компьютерные архитекторы обязаны стремиться узнать, как вычисляет мозг, но не должны его буквально копировать в кремнии».

Нарушая закон Мура, превосходя GPU

Комментируя закон Мура, Тун отметил, что мы намного превзошли все ожидания и у нас еще есть 10-20 лет прогресса в запасе. Энергоэффективность действительно является ограничивающим фактором для нейроморфных архитектур, но ею все не ограничивается. Но затем мы достигнем некоторых фундаментальных ограничений.

Поэтому, мы можем добавить больше транзисторов, но заставить их намного быстрее не сможем. Тун считает, мы достигли наименьшего напряжения, которое можем использовать в таких чипах. Но нам нужны тысячи ядер для работы с машинным обучением. «Ваш ноутбук работает на 2 ГГц, у него просто больше ядер. Старые методы не сработают». Нам нужен иной архитектурный процесс для конструирования чипов другими способами.

«Одним из преимуществ нашей архитектуры является то, что она подходит для многих современных подходов к машинному обучению, таких как CNN, но при это высоко оптимизирована для других подходов к машинному обучению, вроде обучения с подкреплением и прочих. Тун говорит, что IPU — это универсальный процессор машинного интеллекта, специально разработанный для машинного интеллекта. Архитектура IPU позволяет нам превосходить графические процессоры — она сочетает в себе массивный параллелизм с более чем 1000 независимых процессорных ядер на IPU и встроенную память, так что всю модель можно разместить на чипе».

Недавно были выпущены некоторые тесты машинного обучения, в которых Nvidia вроде как побеждала. Но как IPU можно сравнить с GPU от Nvidia на практике? Следовательно, с ними нужно работать иначе. Но как отмечает Тун, структуры данных для машинного обучения отличаются, поскольку они более многомерны и комплексны. Можно создавать и в 10, и в 100 раз более быстрые модели. GPU очень мощные, но не обязательно эффективные в работе с этими структурами данных.

Nvidia, к примеру, преуспела не только потому что ее GPU мощные. Однако скорость — это еще не все, что нужно для успеха в этой игре. Библиотеки, которые позволили разработчикам абстрагироваться от аппаратных особенностей и сосредоточиться на оптимизации своих алгоритмов машинного обучения, стали ключевым элементом успеха компании. Большая часть ее успеха заключается в программном обеспечении.

Революция графов вот-вот начнется

Какого рода структуры, модели и формализм использует Graphcore для представления и работы с этими графами? Конечно, вам уже стало интересно, что же это за графы. Хорошие новости в том, что ждать осталось недолго. Можно ли назвать их графами знаний?

Все модели машинного обучения лучше всего выражать в виде графов — так работает и TensorFlow. «Мы называем их просто вычислительными графами. Просто наши графы на несколько порядков сложнее, поскольку у нас есть параллелизм на несколько порядков для работы с графами на наших чипов», говорит Тун.

Тун обещает, что со временем Graphcore предоставит разработчикам IPU полный доступ с открытым исходным кодом к своим оптимизированным библиотекам графов, чтобы они могли видеть, как Graphcore создает приложения..

Сейчас Graphcore продает PCIe-платы, которые готовы к подключению к серверным платформам, которые называются C2 IPU-Processor. Graphcore уже поставляет производственное оборудование первым клиентам в режиме раннего доступ. Также компания работает с Dell над привлечением корпоративных клиентов и облачных клиентов. Каждая содержит два процессора IPU.

Первоначальный фокус будет на дата-центрах, облачных решениях и определенном числе периферийных приложений, требующих больших вычислительных ресурсов, вроде автономных автомобилей. Продукт будет широко доступен в следующем году. На потребительские устройства типа мобильных телефонов Graphcore пока не ориентируется.

Давайте обсудим в нашем чате в Телеграме. Думаете, нас ждет революция?

Теги
Показать больше

Похожие статьи

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *

Кнопка «Наверх»
Закрыть