MIT Neural Network Processor снижает потребление энергии на 95 процентов

MIT Neural Network Processor снижает потребление энергии на 95 процентов

В наши дни работа с нейронной сетью и рабочими нагрузками на ИИ являются одновременно горячими темами, побуждая несколько компаний объявить о своих собственных проектах на основе кремния или подключить их собственное оборудование в качестве топового решения для этих рабочих нагрузок. Но одна проблема с нейронными сетями заключается в том, что они имеют тенденцию быть чрезвычайно энергоемкими и не обязательно подходят для мобильных устройств или маломощных «умных» динамиков, которые в последнее время стали настолько популярными.

MIT утверждает, что разработал процессор нейронной сети, который решает эти проблемы, при общем снижении мощности до 95 процентов. Если это правда, это может изменить игру для таких приложений. Вместо того, чтобы вынуждать полагаться на облачную связь для управления ИИ (и с использованием мощности, чтобы поддерживать модем активным), SoCs может включать эти процессоры и выполнять локальные вычисления.

«Общая процессорная модель заключается в том, что в какой-то части чипа есть память, а в другой части чипа есть процессор, и вы перемещаете данные между ними, когда делаете эти вычисления», - сказал Авишек Бисвас , аспирант Массачусетского технологического института по электротехнике и информатике, который возглавил разработку нового чипа:

Поскольку эти алгоритмы машинного обучения нуждаются в таком количестве вычислений, эта передача данных вперед и назад является доминирующей частью потребления энергии. Но вычисление этих алгоритмов может быть упрощено до одной конкретной операции, называемой точечным продуктом. Наш подход заключался в том, можем ли мы реализовать эту функциональность для работы с точками в памяти, чтобы вам не нужно было передавать эти данные взад и вперед?

MIT Neural Network Processor снижает потребление энергии на 95 процентов

Типичная нейронная сеть организована в слои. Каждый узел подключается к другим узлам выше и ниже него, и каждое соединение между узлами имеет собственный вес. Вес в этом контексте относится к тому, сколько вычислений воздействия, выполняемых в одном узле, будет иметь на вычислениях, выполняемых в узлах, к которым он подключается. Узлы, принимающие вход от нескольких узлов над ним, умножают входы, которые они получают на вес каждого входа. Результат называется точечным произведением. Если точечный продукт выше определенного порога, он отправляется вдоль узлов дальше по цепочке. Но этот процесс чрезвычайно интенсивен для памяти, при каждом вычислении точечного продукта, требующем доступа к памяти для получения взвешенных значений. Затем эти значения должны быть сохранены, и каждый вход на узел должен быть независимо рассчитан.

Что MIT сделал, это создать чип, который более точно имитирует человеческий мозг. Входные значения преобразуются в электрические напряжения, а затем умножаются на соответствующие веса. Только комбинированные напряжения преобразуются обратно в цифровое представление и сохраняются для обработки. Микросхема прототипа может одновременно вычислять 16 точечных продуктов. Сохраняя все его веса как 1 или -1, система может быть реализована как простой набор переключателей, а только потеряет 2-3 процента точности по сравнению с гораздо более дорогими нейронными сетями.

Неплохо для подхода, который может снизить потребление энергии до 95 процентов. И это многообещающая концепция для будущего, в котором преимущества облака и ИИ не ограничиваются преимуществами надежного интернет-сервиса на мобильном устройстве или дома.

Лучший кредитный рейтинг: Челси Тернер / MIT

Читать далее

TDP Intel для настольных ПК больше не используется для прогнозирования энергопотребления процессора
TDP Intel для настольных ПК больше не используется для прогнозирования энергопотребления процессора

TDP процессоров Intel более высокого класса для настольных ПК больше не сообщает ничего полезного о потребляемой мощности процессоров под нагрузкой.

Тайваньским производителям микросхем сказали сократить потребление воды из-за продолжающейся нехватк
Тайваньским производителям микросхем сказали сократить потребление воды из-за продолжающейся нехватк

В производстве чипов используется много воды, особенно EUV. Это оказалось проблемой на Тайване, где литейным предприятиям, таким как TSMC, было приказано сократить потребление воды из-за сильной засухи.

8-ядерное озеро Tiger In Intel наливает на производительность, энергопотребление
8-ядерное озеро Tiger In Intel наливает на производительность, энергопотребление

Отзывы о последних восьми ядро ​​Tiger Tiger Lake Tiger Lake. Новые процессоры определенно повышают производительность, но за счет более высокого энергопотребления.

Apple ругается правительствам не может сопредеть инструменты обзора на злоупотребление ребенком для набл
Apple ругается правительствам не может сопредеть инструменты обзора на злоупотребление ребенком для набл

Apple недавно подтвердила отчет, который утверждал, что он планировал идти на охоту за незаконные материалы на iPhone. Это, от компании, которая давно продвигала свои защиты конфиденциальности. Осуждение было быстрым из групп гражданских свобод, но многие удерживают суждение из-за предполагаемой цели Apple: образы детского сексуального насилия.