Intel позиционирует Xeon как конкурента по компьютерному обучению в рабочих нагрузках ввода

Intel позиционирует Xeon как конкурента по компьютерному обучению в рабочих нагрузках ввода

В большинстве случаев, когда мы говорим о механическом обучении, искусственном интеллекте или подобной рабочей нагрузке, мы обсуждаем либо графические процессоры Nvidia, либо собственный кремний от таких компаний, как Google. Такие компании, как AMD и Intel, были меньшими игроками, хотя у Intel все еще есть свои Knights Mill и другие продукты Xeon Phi, а также слабая игра любезности Movidius. Но по мере того, как компании переходят на эти рынки - и искусственный интеллект, машинное обучение и глубокое обучение - это все новые рынки, даже если они представляют области, в которых некоторые исследователи десятилетиями трудятся, - они также экспериментируют с оптимизацией оборудования и передовыми методами, которые могут значительно повысить производительность в продуктах, которые вы, возможно, не ожидаете быть конкурентоспособными. Пример: процессоры Intel Xeon.

Во-первых, команда Стэнфорда, стоящая за Dawnbench, описана как «первый базовый уровень обучения и конкуренция, который измеряет сквозную производительность: время / затраты, необходимые для достижения современного уровня точности для общих задач глубокого обучения, а также латентность / стоимость вывода на этом современном уровне точности », выпустила несколько впечатляющих результатов вывода. Если вы помните, есть разница между временем, затрачиваемым на обучение нейронной сети с глубоким обучением, и временем, которое требуется, чтобы сеть применяла то, чему она научилась, к новым данным.

Intel позиционирует Xeon как конкурента по компьютерному обучению в рабочих нагрузках ввода

Nvidia опубликовала сообщение в блоге, в котором подробно рассказывается о том, как работает тестирование вывода, а также о различиях между обучением модели машинного обучения и проведением тестов вывода. В тестах вывода Intel Xeon достиг самых высоких результатов, с латентностью изображения всего 9,96 мс и возможностью обработки 10 000 изображений всего за 0,02 доллара. В более широком наборе тестов Dawn в тестах обучения и обучения машинам обычно доминируют Nvidia или Google. Вольта, как и следовало ожидать, является видным присутствием.

В отдельном тесте Intel заявляет, что в определенных тестах она может значительно опередить Volta V100. Предыдущие результаты взяты из самостоятельного теста; эти результаты получены непосредственно от Intel. Компания пишет:

Процессор Intel Xeon Scalable с оптимизированным программным обеспечением продемонстрировал огромный прирост производительности для глубокого обучения по сравнению с предыдущими поколениями без оптимизированного программного обеспечения. Например, по сравнению с процессором Intel Xeon v3 (ранее кодовое имя Haswell) выигрыш до 198x для вывода и 127x для обучения. [1] Это относится к различным типам моделей, включая многослойный персептрон (MLP), сверточные нейронные сети (CNN) и различные типы рекуррентных нейронных сетей (RNN). Разница в производительности между графическими процессорами и процессорами для обучения и вывода на глубокий курс сузилась, и для некоторых рабочих нагрузок процессоры теперь имеют преимущество перед графическими процессорами.

Для машинного перевода, который использует RNN, процессор Intel Xeon Scalable превосходит NVIDIA * V100 * GPU на 4 раза на модели AWS Sockeye Neural Machine Translation (NMT) с Apache * MXNet *, когда используется Intel Math Kernel Library (Intel MKL).

В ближайшие несколько лет мы увидим гораздо больше новостей такого рода. AMD, Nvidia, Intel, Google и еще десятка других крупных и малых компаний бросают свои шляпы в кольцо AI / ML, и это будет означать, что он много проталкивает его за права хвастовства и требования к производительности.

Мой совет для читателя (в отличие от специалиста-исследователя) заключается в том, чтобы рассматривать эти претензии как точки данных, которые следует рассматривать, а не абсолютные декларации о победе или поражении. Потребуется некоторое время, чтобы точно определить, как сравнивать и оценивать это новое поле, и иногда сравнения будут зависеть от варианта использования рассматриваемого продукта. Чип, который является чрезвычайно энергоэффективным, может быть лучшим вариантом, чем чип, который очень быстр, но имеет высокую потребляемую мощность при оценке того, какое решение для ИИ лучше подходит для устройства с батарейным питанием в долгосрочной перспективе.

Интеллектуальный аргумент Intel - это мета-аргумент, если хотите, - это то, что его процессоры и существующие знания играют определенную роль в AI и ML, даже когда они наращивают инвестиции в такие компании, как Movidius, и запускают новые проекты графического процессора. Я думаю, что это справедливый аргумент в пользу компании, особенно учитывая, что в ближайшие годы серверы Intel и AMD будут включать в себя множество серверов, включая серверы, предназначенные для этих рабочих нагрузок. Но рано награждать короны исполнительной власти, по крайней мере, окончательные.

Читать далее

Intel представит «прорыв» Quantum Computer

Intel объявила о новой вехе в области квантовых вычислений, и теперь доступно 49 кубитов. Это огромный шаг вперед для компании по сравнению с 17-кубитовой системой, показанной всего несколько месяцев назад.

Intel запускает AMD Radeon-Powered процессоры

Новые гибридные процессоры Intel Radeon + Kaby от Intel направляются на полки магазинов. Вот как разрываются SKU и что вам нужно знать.

AMD снизила цены на процессор Ryzen, чтобы принять участие в кофе-озере Intel

AMD снижает цены на Ryzen в ответ на запуск Intel Coffee Lake. Если вы рассматриваете новый процессор AMD, это может быть время, чтобы купить его.

Заклепка запускает пылающий быстрый, чипсет Intel-1525 для чиллеров, новый Xbox-маршрутизатор

Компания Rivet Networks запустила новый чип Wi-Fi на базе решения Intel, а также новый, оптимизированный для Xbox маршрутизатор, выпускающий эту весну.