MIT Neural Network Processor снижает потребление энергии на 95 процентов

В наши дни работа с нейронной сетью и рабочими нагрузками на ИИ являются одновременно горячими темами, побуждая несколько компаний объявить о своих собственных проектах на основе кремния или подключить их собственное оборудование в качестве топового решения для этих рабочих нагрузок. Но одна проблема с нейронными сетями заключается в том, что они имеют тенденцию быть чрезвычайно энергоемкими и не обязательно подходят для мобильных устройств или маломощных «умных» динамиков, которые в последнее время стали настолько популярными.

MIT утверждает, что разработал процессор нейронной сети, который решает эти проблемы, при общем снижении мощности до 95 процентов. Если это правда, это может изменить игру для таких приложений. Вместо того, чтобы вынуждать полагаться на облачную связь для управления ИИ (и с использованием мощности, чтобы поддерживать модем активным), SoCs может включать эти процессоры и выполнять локальные вычисления.

«Общая процессорная модель заключается в том, что в какой-то части чипа есть память, а в другой части чипа есть процессор, и вы перемещаете данные между ними, когда делаете эти вычисления», - сказал Авишек Бисвас , аспирант Массачусетского технологического института по электротехнике и информатике, который возглавил разработку нового чипа:

Поскольку эти алгоритмы машинного обучения нуждаются в таком количестве вычислений, эта передача данных вперед и назад является доминирующей частью потребления энергии. Но вычисление этих алгоритмов может быть упрощено до одной конкретной операции, называемой точечным продуктом. Наш подход заключался в том, можем ли мы реализовать эту функциональность для работы с точками в памяти, чтобы вам не нужно было передавать эти данные взад и вперед?

Типичная нейронная сеть организована в слои. Каждый узел подключается к другим узлам выше и ниже него, и каждое соединение между узлами имеет собственный вес. Вес в этом контексте относится к тому, сколько вычислений воздействия, выполняемых в одном узле, будет иметь на вычислениях, выполняемых в узлах, к которым он подключается. Узлы, принимающие вход от нескольких узлов над ним, умножают входы, которые они получают на вес каждого входа. Результат называется точечным произведением. Если точечный продукт выше определенного порога, он отправляется вдоль узлов дальше по цепочке. Но этот процесс чрезвычайно интенсивен для памяти, при каждом вычислении точечного продукта, требующем доступа к памяти для получения взвешенных значений. Затем эти значения должны быть сохранены, и каждый вход на узел должен быть независимо рассчитан.

Что MIT сделал, это создать чип, который более точно имитирует человеческий мозг. Входные значения преобразуются в электрические напряжения, а затем умножаются на соответствующие веса. Только комбинированные напряжения преобразуются обратно в цифровое представление и сохраняются для обработки. Микросхема прототипа может одновременно вычислять 16 точечных продуктов. Сохраняя все его веса как 1 или -1, система может быть реализована как простой набор переключателей, а только потеряет 2-3 процента точности по сравнению с гораздо более дорогими нейронными сетями.

Неплохо для подхода, который может снизить потребление энергии до 95 процентов. И это многообещающая концепция для будущего, в котором преимущества облака и ИИ не ограничиваются преимуществами надежного интернет-сервиса на мобильном устройстве или дома.

Лучший кредитный рейтинг: Челси Тернер / MIT

Читать далее

Apple вдвое снижает гонорары для разработчиков магазинов приложений, зарабатывающих менее 1 миллиона долл

В будущем обычное 30-процентное сокращение продаж Apple на платформе iOS упадет до 15 процентов для небольших разработчиков. Epic, однако, утверждает, что это всего лишь попытка расколоть сообщество разработчиков.

Google снижает комиссию в Play Маркете для разработчиков, зарабатывающих менее 1 миллиона долларов

Google последовал примеру Apple и объявил о новом, более низком распределении доходов для всех доходов менее 1 миллиона долларов в год. Вместо того, чтобы платить 30 процентов от каждой продажи, разработчики в этой категории платят только 15 процентов.

OverClocker снижает оздоровительные озеро Temps 5C с резиновыми шатунами

На этот раз действительно работал «странный, простой трюк».

Modder GPU снижает температуру GDDR6x на 46 ° С с медными прокладками

Хотя проект не для слабого сердца, он может доставить потрясающие результаты.