Intel, Marvell, поддержка Qualcomm Pledge для компилятора Glow AI

Ранее в этом году Facebook представила Glow, новый компилятор обучения с открытым исходным кодом, предназначенный для гетерогенных систем. Целью является обеспечение превосходной производительности и повышение энергоэффективности за счет создания более эффективного кода. Вот как команда за Glow описала проект в своем первоначальном документе:

В проекте Glow мы фокусируемся на нижних частях стека программного обеспечения. Мы работаем над тем, чтобы обеспечить PyTorch и другие структуры графиком низкого уровня и генератором кода для нейронных сетей. Название Glow является аббревиатурой для Graph-Lowering, которая является основным методом, который использует компилятор для генерации эффективного кода. График низкого уровня Glow не заменит графический уровень высокоуровневого обучения машиной таким же образом, что промежуточное представление низкого уровня в компиляторах не заменяет абстрактное синтаксическое дерево. Мы стремимся предоставить полезный инструментарий для компилятора, который позволит разработчикам оборудования сосредоточиться на внедрении эффективного оборудования ускорения, каждый из которых, вероятно, будет отличаться по возможностям, и использовать Glow для автоматизации задач компиляции, таких как выбор команд, распределение памяти и планирование графика. Полный набор инструментов компилятора является открытым и общедоступным.

То, что Facebook объявляет сейчас, - это новый набор партнеров по аппаратным средствам, которые пообещали поддержать Glow в своих продуктах. Cadence, Esperanto, Intel, Marvell и Qualcomm все привержены поддержке Glow в кремнии в будущих проектах. Программное обеспечение не просто предназначено для генерации кода для одной заданной архитектуры - Facebook намеревается поддерживать ряд специализированных ускорителей машин от нескольких компаний с соответствующими улучшениями производительности для нескольких поставщиков. Эта поддержка аппаратных ускорителей не ограничивается одним типом операции. В пресс-релизе FB отмечается, что аппаратно-независимые аспекты компилятора сосредоточены на оптимизации математики, которые не привязаны к какой-либо конкретной модели. Glow также поставляется с оптимизатором линейной алгебры, эталонной реализацией на основе процессора (для тестирования аппаратной точности) и различными наборами тестов. Цель состоит в том, чтобы сократить время, необходимое производителям оборудования для вывода на рынок новых устройств.

FB прилагает серьезные усилия за Glow. В начале этого года компания запустила версию 1.0 своей системы глубокого обучения PyTorch, новые модели обнаружения объектов, библиотеки для языкового перевода и Tensor Comprehensions для автоматического синтеза ядер машинного обучения. В последние годы огромные усилия были направлены на создание общих рамок для AI и ML, которые будут работать на широком спектре аппаратных средств, а Glow хочет быть частью этого.

Интересно видеть, что две компании не входят в этот список: AMD и Nvidia. Оба проявляют живой интерес к AI / ML - AMD как новичок в отрасли, который хочет отметить свой продукт 7-нм Vega для центров обработки данных в этом году, а Nvidia - лидером в области AI / ML. Ранее AMD участвовала в проекте Open Compute Facebook, поэтому, возможно, мы увидим некоторые действия на этом фронте позднее.