ИИ процессоры, серверы и суперкомпьютеры для бизнеса

Специализированное компьютерное железо (hardware) для систем машинного обучения (начиная от процессоров и заканчивая дата-центром) - позволяют значительно ускорить и удешевить обучение нейросетей. Примеры таких специализированных систем - даны ниже.

См. также: Топ 10: ИИ платформы

01.08.20. В России выпустили нейровычислитель для ускорения обычного ПК


Разработчик российских нейропроцессоров НТЦ Модуль выпустил вычислитель, стыкующийся с материнскими платами компьютеров. Новинка получила название NM Card. Разработчики отмечают, что она позволит развернуть на компьютере нейросеть для решения задач цифровой обработки сигналов и изображений. Областями применения помимо цифровой обработки сигналов и изображений заявлены искусственный интеллект, специализированные высокопроизводительные вычислительные комплексы, облачная обработка данных, системы машинного зрения, робототехника, телекоммуникационные и связные системы, образование.


2020. Intel представила самый мощный нейроморфный процессор


Компания Intel представила нейроморфный процессор Pohoiki Springs, вычислительная мощность которого составляет 100 млн нейронов. Его архитектура напоминает структуру мозга животного: обработка и хранение информации производится в одном месте — это позволяет экономить время, необходимое на выполнение операции, и энергию, затрачиваемую на нее. Новая система, согласно сообщению компании, будет работать через облако и станет доступна участникам исследовательского сообщества Intel Neuromorphic Research Community (INRC). Она позволит исследователям в рамках их проектов нейроморфных вычислений решать более масштабные и сложные задачи.


2019. Касперский поможет Мотиву создать первый в России чип для компьютерного зрения


Лаборатория Касперского совместно с новосибирской компанией Мотив займется созданием нейроморфного процессора для аппаратного ускорения работы систем с искусственным интеллектом. До сих пор этот проект реализовывался только силами Мотива. Процессор называется Алтай. Это будет первая подобная разработка в России. Используя специальное внешнее устройство, чип будет обучаться в процессе работы, увеличивая скорость работы системы, куда он интегрирован. Разработчики обещают низкое энергопотребление — на уровне 0,5 Вт. Производительность должна достичь 2200 кадров в секунду при обработке изображений. Размер кристалла при этом будет небольшим — 8 х 8 мм. Нейроморфные процессоры применяются для аппаратного ускорения работы систем искусственного интеллекта. Их можно встраивать в системы технического зрения и распознавания речи.


2019. Huawei хочет стать как Apple для Искусственного интеллекта


Компания Huawei представила свой процессор для систем машинного обучения - Ascend 910, который они называют самым быстрым ИИ-процессором в мире (на данный момент). Его вычислительная мощность - 256 терафлопс (триллионов операций в секунду). Для сравнения - у нового ИИ-чипа Intel - 180 терафлопс. Но это еще не все. Huawei разработала фреймворк для создания ИИ-приложений - MindSpore, который будет конкурировать с гугловским Tensorflow. Фишка в том, что он идеально использует ресурсы вышеупомянутого процессора. Т.е. за счет синергии харда и софта, Huawei хочет добиться в сфере ИИ того, чего добился Apple в производстве мобильных девайсов.


2019. Intel представила свой первый процессор для систем ИИ


Intel представила свой первый процессор, предназначенный для работы систем искусственного интеллекта - Nervana NNP-I. Он будет использоваться в крупных центрах обработки данных. Процессор был создан в центре разработки компании в Израиле на базе 10-нанометрового процессора Ice Lake. Он позволяет справляться с высокими нагрузками, используя минимальное количество энергии, говорят в Intel. Новый чип дополнит возможности серверных микропроцессоров Intel Xeon и поможет им справиться с ростом спроса на сложные вычисления в области ИИ.


2018. Google добавил бесплатные TPU на Colaboratory


Google предоставил бесплатный доступ к своим тензорным процессорам (tensor processing unit, TPU) на облачной платформе для машинного обучения Colaboratory. Тензорный процессор — это специализированная интегральная схема (ASIC), разработанная Google для задач машинного обучения с использованием библиотеки TensorFlow. Colaboratory — это облачная платформа от Google для продвижения технологий машинного обучения. На ней можно получить бесплатно виртуальную машину с установленными популярными библиотеками TensorFlow, Keras, sklearn, pandas и т.п. Самое удобное, что на Colaboratory можно запускать ноутбуки, похожие на Jupyter. Ноутбуки сохраняются на Google Drive, можно их распространять и даже организовать совместную работу. Вот так выглядит ноутбук на Colaboratory


2017. TPU-чипы Google ускорят нейросети в 30 раз


Специалисты компании Google разработали специализированный процессор TPU (Tensor Processing Unit), имеющий производительность в 45 терафлопс. Такой процессор дает в 10–30 раз большую производительность для работы нейросетей, чем обычные процессоры и графические процессоры. При этом, эффективность работы тензорных процессоров превосходила эффективность других процессоров в 30–80 раз. Именно на тензорных процессорах работала система Alpha Go, которая одержала ряд впечатляющих побед над самыми именитыми игроками в китайскую игру Го. Немного позже в этом году система из тысячи таких процессоров, станет частью облачного сервиса Google Cloud Compute, доступ к которой совершенно бесплатно смогут получить разработчики систем машинного изучения.


2017. IBM представила твердотельные системы хранения для когнитивных задач


IBM выпустила полностью построенные на базе флэш-памяти системы хранения данных DS8888F, нацеленные на бизнес-решения для аналитики больших данных для приложений когнитивных вычислений. Система хранения предназначена для сложных приложений, требующих высокой доступности, бесперебойной работы и высокой производительности в любой момент времени. IBM DS8888F предназначается для предсказательной аналитики, оптимизации в реальном времени, машинного обучения и когнитивных систем, обработки речи на естественном языке и видео. Для этого у нее имеется 2 ТБ DRAM и флэш-память емкостью от 6,4 ТБ до 1,22 ПБ.


2016. IBM и Nvidia создали самый быстрый ИИ-сервер для бизнеса


Компании IBM и Nvidia представили, как они утверждают, самое быстрое в мире корпоративное решение для глубинного обучения. Это построенный на процессорах IBM Power 8 специализированный сервер IBM Power System S822LC, на котором запущена платформа искусственного интеллекта IBM PowerAI. Также, сервер получил новую шину на базе технологии Nvidia NVLink, которая обеспечивает пятикратное ускорение передачи данных между центральным и графическим процессором. Аппаратное средство прямого взаимодействия между CPU и GPU позволило увеличить производительность более чем вдвое по сравнению с сопоставимыми серверами с четырьмя GPU в тестовой нейросети AlexNet, построенной на фреймворке Caffe. Технологии глубинного обучения и искусственного интеллекта в целом все чаще используются в банковской отрасли (к примеру, для распознавания лиц), автомобилестроении (для беспилотных машин) и розничной торговле (для создания полностью автоматизированных колл-центров, способных понимать человеческую речь и отвечать на вопросы).


2016. IBM и Nvidia создали специализированный сервер для машинного обучения


Хотя IBM уже создала децентрализованный процессор для нейросетей TrueNorth, он пока еще не готов к коммерческой эксплуатации. Пока системы искусственного интеллекта работают на традиционной серверной архитектуре. Да, это требует больших компьютерных ресурсов и много энергии, зато надежно. И эти системы тоже можно оптимизировать. IBM совместно с Nvidia представили совместный продукт - IBM Power Systems S822LC. Он включает в себя два 8-ядерных центральных процессора IBM и четыре графических процессора Nvidia (именно графические процессоры в основном используются для моделирования нейросетей и их машинного обучения).


2016. На основе мозгоподобного чипа TrueNorth создали суперкомпьютер


Ливерморская национальная лаборатория (LLNL) занимается вопросами национальной безопасности США (в частности, разработкой ядерной бомбы). И всегда эта организация стремилась заполучить самые мощные суперкомпьютеры своего времени. Более того, сам термин "суперкомпьютер" был придуман именно в LLNL. Так вот, их последнее детище - суперкомпьютер, построенный на чипах IBM TrueNorth. Напомним, чипы TrueNorth - имеют архитектуру, схожую с нейронной сетью мозга. На данный момент суперкомпьютер имитирует сеть из 16 млн нейронов с примерно 4 млрд синапсов. Конечно, до мозга человека ему еще далеко, но самый мощный мозгоподобный компьютер из когда-либо созданных человеком. Для каких именно задач LLNL планирует использовать этот суперкомпьютер - конечно никто не узнает.