Intel позиционирует Xeon как конкурента по компьютерному обучению в рабочих нагрузках ввода

В большинстве случаев, когда мы говорим о механическом обучении, искусственном интеллекте или подобной рабочей нагрузке, мы обсуждаем либо графические процессоры Nvidia, либо собственный кремний от таких компаний, как Google. Такие компании, как AMD и Intel, были меньшими игроками, хотя у Intel все еще есть свои Knights Mill и другие продукты Xeon Phi, а также слабая игра любезности Movidius. Но по мере того, как компании переходят на эти рынки - и искусственный интеллект, машинное обучение и глубокое обучение - это все новые рынки, даже если они представляют области, в которых некоторые исследователи десятилетиями трудятся, - они также экспериментируют с оптимизацией оборудования и передовыми методами, которые могут значительно повысить производительность в продуктах, которые вы, возможно, не ожидаете быть конкурентоспособными. Пример: процессоры Intel Xeon.

Во-первых, команда Стэнфорда, стоящая за Dawnbench, описана как «первый базовый уровень обучения и конкуренция, который измеряет сквозную производительность: время / затраты, необходимые для достижения современного уровня точности для общих задач глубокого обучения, а также латентность / стоимость вывода на этом современном уровне точности », выпустила несколько впечатляющих результатов вывода. Если вы помните, есть разница между временем, затрачиваемым на обучение нейронной сети с глубоким обучением, и временем, которое требуется, чтобы сеть применяла то, чему она научилась, к новым данным.

Nvidia опубликовала сообщение в блоге, в котором подробно рассказывается о том, как работает тестирование вывода, а также о различиях между обучением модели машинного обучения и проведением тестов вывода. В тестах вывода Intel Xeon достиг самых высоких результатов, с латентностью изображения всего 9,96 мс и возможностью обработки 10 000 изображений всего за 0,02 доллара. В более широком наборе тестов Dawn в тестах обучения и обучения машинам обычно доминируют Nvidia или Google. Вольта, как и следовало ожидать, является видным присутствием.

В отдельном тесте Intel заявляет, что в определенных тестах она может значительно опередить Volta V100. Предыдущие результаты взяты из самостоятельного теста; эти результаты получены непосредственно от Intel. Компания пишет:

Процессор Intel Xeon Scalable с оптимизированным программным обеспечением продемонстрировал огромный прирост производительности для глубокого обучения по сравнению с предыдущими поколениями без оптимизированного программного обеспечения. Например, по сравнению с процессором Intel Xeon v3 (ранее кодовое имя Haswell) выигрыш до 198x для вывода и 127x для обучения. [1] Это относится к различным типам моделей, включая многослойный персептрон (MLP), сверточные нейронные сети (CNN) и различные типы рекуррентных нейронных сетей (RNN). Разница в производительности между графическими процессорами и процессорами для обучения и вывода на глубокий курс сузилась, и для некоторых рабочих нагрузок процессоры теперь имеют преимущество перед графическими процессорами.

Для машинного перевода, который использует RNN, процессор Intel Xeon Scalable превосходит NVIDIA * V100 * GPU на 4 раза на модели AWS Sockeye Neural Machine Translation (NMT) с Apache * MXNet *, когда используется Intel Math Kernel Library (Intel MKL).

В ближайшие несколько лет мы увидим гораздо больше новостей такого рода. AMD, Nvidia, Intel, Google и еще десятка других крупных и малых компаний бросают свои шляпы в кольцо AI / ML, и это будет означать, что он много проталкивает его за права хвастовства и требования к производительности.

Мой совет для читателя (в отличие от специалиста-исследователя) заключается в том, чтобы рассматривать эти претензии как точки данных, которые следует рассматривать, а не абсолютные декларации о победе или поражении. Потребуется некоторое время, чтобы точно определить, как сравнивать и оценивать это новое поле, и иногда сравнения будут зависеть от варианта использования рассматриваемого продукта. Чип, который является чрезвычайно энергоэффективным, может быть лучшим вариантом, чем чип, который очень быстр, но имеет высокую потребляемую мощность при оценке того, какое решение для ИИ лучше подходит для устройства с батарейным питанием в долгосрочной перспективе.

Интеллектуальный аргумент Intel - это мета-аргумент, если хотите, - это то, что его процессоры и существующие знания играют определенную роль в AI и ML, даже когда они наращивают инвестиции в такие компании, как Movidius, и запускают новые проекты графического процессора. Я думаю, что это справедливый аргумент в пользу компании, особенно учитывая, что в ближайшие годы серверы Intel и AMD будут включать в себя множество серверов, включая серверы, предназначенные для этих рабочих нагрузок. Но рано награждать короны исполнительной власти, по крайней мере, окончательные.

Читать далее

Протестировано: ZBook Fury 15 G7 от HP - это золотая середина портативной рабочей станции

Новейшее поколение HP ZBook Fury 15 занимает золотую середину между ноутбуками весом менее пяти фунтов, предназначенными для творческих людей, и гигантскими бескомпромиссными моделями, которые могут весить семь или восемь фунтов. Zbook Fury 15 обладает множеством возможностей и множеством функций при весе менее шести фунтов.

Если вам нужен мобильный 10-нм процессор на рабочем столе, это может быть вашим отличием

Если вы когда-либо хотели мобильный чип, который можно было бы вставить в системную плату Intel для настольных ПК, вы можете его получить. Однако поддержка ЦП - вопрос открытый.

Цены на память могут прыгать на 25 процентов в квартале через рабочий стол, мобильный, сервер

Ожидается, что цены на RAM увеличится до 25 процентов в этом квартале, в то время как нехватка субстрата может вызвать проблемы для всего рынка.

Обзор: AMD Radeon Pro W6800 Рабочая станция GPU

AMD объявил о своей новой серии флагманских рабочих станций GPU, Radeon Pro W6800, W6600 и W6600M. Мы посмотрим на их спецификации, новые функции и иду на практику с флагманом W6800.