Intel позиционирует Xeon как конкурента по компьютерному обучению в рабочих нагрузках ввода

В большинстве случаев, когда мы говорим о механическом обучении, искусственном интеллекте или подобной рабочей нагрузке, мы обсуждаем либо графические процессоры Nvidia, либо собственный кремний от таких компаний, как Google. Такие компании, как AMD и Intel, были меньшими игроками, хотя у Intel все еще есть свои Knights Mill и другие продукты Xeon Phi, а также слабая игра любезности Movidius. Но по мере того, как компании переходят на эти рынки - и искусственный интеллект, машинное обучение и глубокое обучение - это все новые рынки, даже если они представляют области, в которых некоторые исследователи десятилетиями трудятся, - они также экспериментируют с оптимизацией оборудования и передовыми методами, которые могут значительно повысить производительность в продуктах, которые вы, возможно, не ожидаете быть конкурентоспособными. Пример: процессоры Intel Xeon.

Во-первых, команда Стэнфорда, стоящая за Dawnbench, описана как «первый базовый уровень обучения и конкуренция, который измеряет сквозную производительность: время / затраты, необходимые для достижения современного уровня точности для общих задач глубокого обучения, а также латентность / стоимость вывода на этом современном уровне точности », выпустила несколько впечатляющих результатов вывода. Если вы помните, есть разница между временем, затрачиваемым на обучение нейронной сети с глубоким обучением, и временем, которое требуется, чтобы сеть применяла то, чему она научилась, к новым данным.

Nvidia опубликовала сообщение в блоге, в котором подробно рассказывается о том, как работает тестирование вывода, а также о различиях между обучением модели машинного обучения и проведением тестов вывода. В тестах вывода Intel Xeon достиг самых высоких результатов, с латентностью изображения всего 9,96 мс и возможностью обработки 10 000 изображений всего за 0,02 доллара. В более широком наборе тестов Dawn в тестах обучения и обучения машинам обычно доминируют Nvidia или Google. Вольта, как и следовало ожидать, является видным присутствием.

В отдельном тесте Intel заявляет, что в определенных тестах она может значительно опередить Volta V100. Предыдущие результаты взяты из самостоятельного теста; эти результаты получены непосредственно от Intel. Компания пишет:

Процессор Intel Xeon Scalable с оптимизированным программным обеспечением продемонстрировал огромный прирост производительности для глубокого обучения по сравнению с предыдущими поколениями без оптимизированного программного обеспечения. Например, по сравнению с процессором Intel Xeon v3 (ранее кодовое имя Haswell) выигрыш до 198x для вывода и 127x для обучения. [1] Это относится к различным типам моделей, включая многослойный персептрон (MLP), сверточные нейронные сети (CNN) и различные типы рекуррентных нейронных сетей (RNN). Разница в производительности между графическими процессорами и процессорами для обучения и вывода на глубокий курс сузилась, и для некоторых рабочих нагрузок процессоры теперь имеют преимущество перед графическими процессорами.

Для машинного перевода, который использует RNN, процессор Intel Xeon Scalable превосходит NVIDIA * V100 * GPU на 4 раза на модели AWS Sockeye Neural Machine Translation (NMT) с Apache * MXNet *, когда используется Intel Math Kernel Library (Intel MKL).

В ближайшие несколько лет мы увидим гораздо больше новостей такого рода. AMD, Nvidia, Intel, Google и еще десятка других крупных и малых компаний бросают свои шляпы в кольцо AI / ML, и это будет означать, что он много проталкивает его за права хвастовства и требования к производительности.

Мой совет для читателя (в отличие от специалиста-исследователя) заключается в том, чтобы рассматривать эти претензии как точки данных, которые следует рассматривать, а не абсолютные декларации о победе или поражении. Потребуется некоторое время, чтобы точно определить, как сравнивать и оценивать это новое поле, и иногда сравнения будут зависеть от варианта использования рассматриваемого продукта. Чип, который является чрезвычайно энергоэффективным, может быть лучшим вариантом, чем чип, который очень быстр, но имеет высокую потребляемую мощность при оценке того, какое решение для ИИ лучше подходит для устройства с батарейным питанием в долгосрочной перспективе.

Интеллектуальный аргумент Intel - это мета-аргумент, если хотите, - это то, что его процессоры и существующие знания играют определенную роль в AI и ML, даже когда они наращивают инвестиции в такие компании, как Movidius, и запускают новые проекты графического процессора. Я думаю, что это справедливый аргумент в пользу компании, особенно учитывая, что в ближайшие годы серверы Intel и AMD будут включать в себя множество серверов, включая серверы, предназначенные для этих рабочих нагрузок. Но рано награждать короны исполнительной власти, по крайней мере, окончательные.

Читать далее

Археологи открывают потерянный египетский город, сказал конкурентам Помпеи

Египетские археологи нашли потерянный город в Египте возле долины королей. Говорят, что рост Атена соперничает Помпеи с точки зрения полноты и сохранения и может сказать нам гораздо больше, чем мы знаем сейчас о египетской культуре и обществе около 1330 года.

Симулятор полета Microsoft добавляет конкурентный многопользовательский

Новый режим позволит вам готов друзей и онлайн-игроков, и включает в себя ряд известных гоночных самолетов.

PlayStation планирует конкурентное сообщение Xbox Game с новой подписной службой

Sony планирует капитальный ремонт своих двух существующих подписок PlayStation-PlayStation Plus и PlayStation Now - и создать один крупный сервис, который может соответствовать своему конкуренту.

Microsoft, чтобы начать раскрывать зарплату, отбросить неконкурентные предложения

Microsoft вносит большие изменения в свои политики рабочей силы. Хотя его рука навязывается недавно принятым законодательством об раскрытии информации о зарплате, другие инициативы являются результатом слушания его сотрудников.