На современном этапе (по состоянию на 2017 год) к классу нейронных процессоров могут относиться разные по устройству и специализации типы чипов, например:
Нейроморфные процессоры — построенные по кластернойасинхронной архитектуре, разработанной в Корнеллском университете (принципиально отличающейся от фон Неймановской и Гарвардской компьютерных архитектур, используемых последние 70 лет в IT-отрасли). В отличие от традиционных вычислительных архитектур, логика нейроморфных процессоров изначально узкоспециализирована для создания и разработки разных видов искусственных нейронных сетей. В устройстве используются обычные транзисторы, из которых строятся вычислительные ядра (каждое ядро, как правило, содержит планировщик заданий, собственную память типа SRAM и маршрутизатор для связи с другими ядрами), каждое из ядер эмулирует работу нескольких сотен нейронов и, таким образом, одна интегральная схема, содержащая несколько тысяч таких ядер, алгоритмически может воссоздать массив из нескольких сотен тысяч нейронов и на порядок больше синапсов. Как правило, такие процессоры применяются для алгоритмов глубокого машинного обучения[3].
Тензорные процессоры — устройства, как правило, являющиеся сопроцессорами, управляемыми центральным процессором. Тензорные процессоры оперируют тензорами — объектами, при помощи которых удобно выполнять преобразование элементов одного векторного пространства в другое, и которые могут быть представлены как многомерные массивы чисел[4], обработка которых осуществляется с помощью таких программных библиотек, как, например TensorFlow и Caffe 2. В угоду производительности они, обычно, выполняют операции над числами малой разрядности (8 или 16 бит) и специализированы для быстрого выполнения таких операций, как матричное умножение и свёртка, используемых для эмуляции свёрточных нейронных сетей, которые используются для задач машинного обучения[5].
Беспилотное транспортное средство (беспилотник): автомобиль, корабль, поезд, трамвай, летательный аппарат — например, в этом направлении развивает свои платы Drive PX-series[англ.] компания Nvidia[7][8]. А навигационная система основанная на чипах Movidius Myriad 2[англ.] успешно управляет автономными беспилотными летательными аппаратами[9].
Промышленный робот — NPU позволяют расширить спектр задач, которые возможно автоматизировать, путём добавления приспособляемости к меняющимся ситуациям.
IntelMovidius Myriad 2[англ.], который является многоядерным ИИ-ускорителем, основанным на VLIW-архитектуре, с дополненными узлами, предназначенными для обработки видео[6].
Mobileye EyeQ[англ.] — это специализированный процессор, ускоряющий обработку алгоритмов машинного зрения для использования в беспилотном автомобиле[12].
Тензорные процессоры:
Google TPU (англ.Tensor Processing Unit) — представлен как ускоритель для системы GoogleTensorFlow, которая широко применяется для свёрточных нейронных сетей. Сфокусирован на большом объёме арифметики 8-битной точности[5].
Huawei Ascend 310 / Ascend 910 — первые два чипа оптимизированные под решения задач искусственного интеллекта из линейки Ascend компании Huawei[13].
IntelNervana NNP[англ.] (англ.Neural Network Processor) — это первый коммерчески доступный тензорный процессор, предназначенный для постройки сетей глубокого обучения[14], компания Facebook была партнёром в процессе его проектирования[15][16].
Qualcomm Cloud AI 100 — ускоритель искусственного интеллекта, предназначенный для использования в составе облачных платформ, поддерживающий программные библиотеки PyTorch, Glow, TensorFlow, Keras и ONNX[17].
Нейроморфные процессоры:
IBMTrueNorth — нейроморфный процессор, построенный по принципу взаимодействия нейронов, а не традиционной арифметики. Частота импульсов представляет интенсивность сигнала. По состоянию на 2016 год среди исследователей ИИ нет консенсуса, является ли это правильным путём для продвижения[18], но некоторые результаты являются многообещающими, с продемонстрированной большой экономией энергии для задач машинного зрения[19].
Adapteva Epiphany[англ.] — предназначен как сопроцессор, включает модель блокнотной памяти[англ.]сети на кристалле[англ.], подходит к модели программирования потоком информации, которая должна подходить для многих задач машинного обучения.
Cambricon MLU100 — карта расширения PCI Express с ИИ-процессором мощностью 64 TFLOPS с половинной точностью или 128 TOPS для вычислений INT8[20].
Cerebras Wafer Scale Engine (WSE, CS-1) — экспериментальный суперпроцессор компании Cerebras, содержит 1,2 трлн транзисторов, организованных в 400 000 ИИ-оптимизированных вычислительных ядер и 18 Гбайт локальной распределённой памяти SRAM, и всё это связано ячеистой сетью с общей производительностью 100 петабит в секунду. Чип Cerebras ― это фактически суперкомпьютер на чипе, где вычислительные ядра SLAC (Sparse Linear Algebra Cores) ― полностью программируемые и могут быть оптимизированы для работы с любыми нейронными сетями[21].
KnuPath[англ.] — процессор компании KnuEdge[англ.], предназначен для работы в системах распознавания речи и прочих отраслях машинного обучения, он использует соединительную технологию LambdaFabric и позволяет объединять в единую систему до 512 тысяч процессоров[22].
Nvidia Volta[англ.] — графические процессоры (GPU) архитектуры Volta (2017 год) компании Nvidia (такие как Volta GV100), содержат до 640 специальных ядер для тензорных вычислений[1].
Nvidia Turing[англ.] — графические процессоры архитектуры Turing (2018 год) компании Nvidia (такие как Nvidia TU104), содержат до 576 специальных ядер для тензорных вычислений[24].
Nvidia DGX-1 — специализированный сервер, состоящий из 2 центральных процессоров и 8 GPU Nvidia Volta GV100[англ.] (5120 тензорных ядер), связанных через быструю шину NVLink[25]. Специализированная архитектура памяти[англ.] у этой системы является особенно подходящей для построения сетей глубокого обучения[26][27].
AMDRadeon Instinct[англ.] — специализированная GPGPU-плата компании AMD, предлагаемая как ускоритель для задач глубокого обучения[28][29].
ИИ-ускорители в виде внутренних сопроцессоров (аппаратных ИИ-блоков)
Eyeriss[англ.] — разработка, направлена на свёрточные нейронные сети с применением блокнотной памяти и сетевой архитектуры в пределах кристалла.
Fujitsu DLU[англ.] — многоблочный и многоядерный сопроцессор компании Fujitsu использующий вычисления с низкой точностью и предназначенный для глубокого машинного обучения[35].
Intel Loihi[англ.] — нейроморфный процессор компании Intel, который сочетает процессы обучения, тренировки и принятия решений в одном чипе, позволяя системе быть автономной и «сообразительной» без подключения к облаку. Например, при обучении с помощью базы данных MNIST (Mixed National Institute of Standards and Technology) процессор Loihi оказывается в 1 млн раз лучше, чем другие типичные спайковые нейронные сети[36].
Kalray[англ.] — показала MPPA[англ.][37] и сообщила о повышении эффективности свёрточных нейронных сетей в сравнении с GPU.
SpiNNaker — массово-параллельная компьютерная архитектура, которая сочетает ядра традиционной ARM-архитектуры с усовершенствованной сетевой структурой, специализированной для моделирования крупной нейронной сети.
Zeroth NPU[англ.] — разработка компании Qualcomm, направленная непосредственно на привнесение возможностей распознавания речи и изображений в мобильные устройства[38].
↑IBM cracks open new era of neuromorphic computing (неопр.). — «TrueNorth is incredibly efficient: The chip consumes just 72 milliwatts at max load, which equates to around 400 billion synaptic operations per second per watt — or about 176,000 times more efficient than a modern CPU running the same brain-like workload, or 769 times more efficient than other state-of-the-art neuromorphic approaches». Дата обращения: 15 ноября 2017. Архивировано 9 июля 2016 года. (англ.)
Физический процессор — специализированный микропроцессор, предназначенный для вычисления физических взаимодействий объектов преимущественно в физических движках видеоигр.
Intel — американская компания, разработчик и производитель электронных устройств и компьютерных компонентов: микропроцессоров и наборов системной логики (чипсетов) для клиентских вычислительных систем и для дата-центров, ПЛИС (Altera), чипов для систем искусственного интеллекта и для интернета вещей, энергонезависимой памяти.
Qualcomm, «Куа́лкомм» — компания по разработке и производству микросхем для мобильных телефонов и другой электроники, включая семейство систем на кристалле Snapdragon. Штаб-квартира расположена в Сан-Диего.
Larrabee — кодовое обозначение проекта по разработке новой архитектуры Intel Many Integrated Core для микропроцессоров американской компании Intel. Изначально данные чипы создавались как новое, ранее не встречавшееся решение, которое заменит собой линейку графических процессоров Intel GMA. Чип Intel Larrabee проектировался как сочетание центрального и графического процессоров, наподобие AMD Fusion. Предполагалось, что видеокарты, основанные на чипах Larrabee, будут конкурировать с решениями nVidia GeForce и AMD Radeon. Также предполагалось, что чипы Larrabee будут конкурировать на рынках GPGPU и высокопроизводительных вычислений.
Nvidia — американская технологическая компания, разработчик графических процессоров и систем на чипе (SoC). Разработки компании получили распространение в индустрии видеоигр, сфере профессиональной визуализации, области высокопроизводительных вычислений и автомобильной промышленности, где бортовые компьютеры Nvidia используются в качестве основы для беспилотных автомобилей.
Персональный суперкомпьютер — условная характеристика высокопроизводительной электронно-вычислительной машины, ориентированной на решение задач интенсивной числовой обработки, выполненной в компактном корпусе, обычно в форм-факторе настольного компьютера, которая может быть установлена непосредственно на рабочем месте, а не в специально отведенных помещениях, как это необходимо для кластерных суперкомпьютеров. Такие машины используются для работы с приложениями, требующими наиболее интенсивных вычислений, что в том числе это отличает их от серверов и мэйнфреймов — компьютеров с высокой общей производительностью, призванных решать типовые задачи.
Смартбук — небольшой ноутбук, построенный на аппаратной платформе того же класса, что используется для смартфонов и интернет-планшетов.
PowerVR — подразделение компании Imagination Technologies, занимающееся разработкой графических ускорителей, а также сопутствующим программным обеспечением. Их ускорители могут работать с 2D и 3D графикой, кодированием и декодированием видео, а также с задачами, связанными с обработкой изображений, в том числе ускорением DirectX, OpenGL ES, OpenVG и OpenCL.
Свёрточная нейронная сеть — специальная архитектура искусственных нейронных сетей, предложенная Яном Лекуном в 1988 году и нацеленная на эффективное распознавание образов, входит в состав технологий глубокого обучения. Использует некоторые особенности зрительной коры, в которой были открыты так называемые простые клетки, реагирующие на прямые линии под разными углами, и сложные клетки, реакция которых связана с активацией определённого набора простых клеток. Таким образом, идея свёрточных нейронных сетей заключается в чередовании свёрточных слоёв и субдискретизирующих слоёв. Структура сети — однонаправленная, принципиально многослойная. Для обучения используются стандартные методы, чаще всего метод обратного распространения ошибки. Функция активации нейронов — любая, по выбору исследователя.
GeForce 10 Series — семейство графических процессоров NVIDIA, используемых в настольных компьютерах и ноутбуках. Чипы семейства GeForce 10 основаны на новой архитектуре Pascal, названной в честь французского математика, физика, философа Блеза Паскаля. Первые две модели, GeForce GTX 1080 и GeForce GTX 1070, были представлены в начале мая 2016 года. Выход состоялся 27 мая и 10 июня 2016 соответственно. По сравнению с предыдущей микроархитектурой Maxwell прирост производительности в компьютерных играх и программах составил около 40 %.
Тензорный процессор Google — тензорный процессор, относящийся к классу нейронных процессоров, являющийся специализированной интегральной схемой, разработанной корпорацией Google и предназначенной для использования с библиотекой машинного обучения TensorFlow. Представлен в 2016 году на конференции Google I/O, при этом утверждалось, что устройства к тому моменту уже использовались внутри корпорации Google более года.
Процессор машинного зрения — новый класс специализированных микропроцессоров являющихся разновидностью ИИ-ускорителей, предназначенных для аппаратного ускорения работы алгоритмов машинного зрения.
GeForce 30 — семейство графических процессоров компании Nvidia. Серия была анонсирована 1 сентября 2020 года, в годовщину выпуска первого процессора серии GeForce — GeForce 256 (NV10), который был выпущен 21 годом ранее, в октябре 1999.
Процессор глубокого обучения или ускоритель глубокого обучения — это электронная схема, разработанная для алгоритмов глубокого обучения, обычно с отдельной памятью данных и специализированной архитектурой набора команд. Процессоры глубокого обучения варьируются от мобильных устройств, таких как блоки нейронной обработки (NPU) в мобильных телефонах Huawei, до серверов облачных вычислений, таких какТензорный процессор Google (TPU) в Google Cloud Platform.
oneAPI — открытый стандарт унифицированного прикладного программного интерфейса, предназначенный для использования на различных вычислительных ускорительных архитектурах, включающих графические процессоры, нейронные процессоры и программируемые пользователем вентильные матрицы. Стандарт предназначен для устранения необходимости поддержания разработчиками отдельных кодовых баз, множества программных языков, и различных инструментов и рабочих процессов для каждой архитектуры.
NVIDIA Grace — семейство микропроцессоров класса Server/Datacenter, разработанное корпорацией NVIDIA Corporation, которые обеспечивают высокую производительность, энергоэффективность и возможность подключения с высокой пропускной способностью, и которые можно использовать в различных конфигурациях для различных нужд центров обработки данных. Выпускаются с середины 2023 года.
NVIDIA GH200 Grace Hopper Superchip — микропроцессорная сборка класса Server/Datacenter от корпорации NVIDIA Corporation из серии NVIDIA Grace, модель середины 2023 года. В состав системы входит 64-битный 72-ядерный ARM-микропроцессор и ускоритель GPGPU-вычислений с тензорными ядрами H100 (Hopper). Разработана Nvidia и производится контрактным производителем TSMC по усовершенствованному 4-нанометровому (N4) техпроцессу.
Hopper — микроархитектура профессиональных графических процессоров класса Server/Datacenter представленная в марте 2022 года, и разработанная корпорацией NVIDIA Corporation в качестве преемника микроархитектуры Ampere. Она названа в честь Грейс Мюррей Хоппер — американской учёной в области информатики и контр-адмирала Военно-морских сил США, которая была одной из первых программистов компьютера Марк I.
NVIDIA DGX — это серия серверов и рабочих станций, разработанная и производимая корпорацией NVIDIA Corporation, которые специализируются на использовании ускорителей GPGPU-вычислений для ускорения приложений глубокого обучения систем искусственного интеллекта.
Volta — микроархитектура профессиональных графических процессоров класса Server/Datacenter представленная в мае 2017 года, и разработанная корпорацией NVIDIA Corporation в качестве преемника микроархитектуры Pascal. Она названа в честь Алессандро Джузеппе Антонио Анастасио Вольта — итальянского физика, химика и физиолога, одного из основоположников учения об электричестве. О планах разработки этой микроархитектуры было объявлено ещё в марте 2013 года. Однако о первом продукте было объявлено только в мае 2017 года. Это первый чип NVIDIA, включающий специально разработанные тензорные ядра для машинного обучения систем искусственного интеллекта, в которых улучшены процессы глубокого обучения по сравнению с обычными ядрами CUDA.
Эта страница основана на статье Википедии. Текст доступен на условиях лицензии CC BY-SA 4.0; могут применяться дополнительные условия. Изображения, видео и звуки доступны по их собственным лицензиям.
