Нейронні мережеві процесори MIT скорочують споживання електроенергії на 95 відсотків

Нейронні мережеві процесори MIT скорочують споживання електроенергії на 95 відсотків

На сьогодні процеси обробки нейромережець та робочого навантаження AI є гарячими темами, закликаючи декілька компаній оголосити свої власні кремнієві конструкції або підключити власне устаткування до вершини рішення для цих навантажень. Але однією проблемою з нейронними мережами є те, що вони, як правило, надзвичайно енергоємні, і не обов'язково підходять для мобільних пристроїв або такого роду слабкі "розумні" колонки, які нещодавно стали настільки популярними.

MIT стверджує, що розробив нейронний мережевий процесор, який вирішує ці проблеми, при загальному зменшенні потужності до 95 відсотків. Якщо це правда, це може змінити гру для таких видів додатків. Замість того, щоб змусити покладатися на підключення до хеш-пам'яті для керування AI (і використовувати владу, щоб підтримувати активність модему), SoCs могли б включити ці процесори та виконувати локальні розрахунки.

"Загальна модель процесора полягає в тому, що в деякій частині чіпа є пам'ять, а в іншій частині чіпа є процесор, і ви переміщаєте дані назад і вперед між ними, коли ви виконуєте ці обчислення", - сказав Авішек Бісвас , аспірант МІТ з електротехніки та інформатики, який керував розвитком нового чіпа:

Оскільки ці алгоритми машинного навчання потребують стільки обчислень, то передача даних назад і назад є домінуючою частиною споживання енергії. Але обчислення цих алгоритмів може бути спрощено до однієї конкретної операції, яка називається точками продукту. Наш підхід полягав у тому, чи можемо ми впровадити цю функцію точка-продукту всередині пам'яті, щоб вам не потрібно було передавати ці дані назад і назад?

Нейронні мережеві процесори MIT скорочують споживання електроенергії на 95 відсотків

Типова нейронна мережа організована в шари. Кожен вузол підключається до інших вузлів вище і нижче, а кожне з'єднання між вузлами має власну вагу. Вага в цьому контексті стосується того, скільки обчислень на удар, виконаних в одному вузлі, матиме на розрахунках, виконаних у вузлах, з якими він підключається. Вузли, що отримують введення з декількох вузлів над ним, множать входи, які вони отримують, за вагою кожного входу. Результат називається точками продукту. Якщо точка продукту перевищує певний поріг, вона посилається уздовж далі в ланцюжок. Але цей процес надзвичайно інтенсивний для пам'яті, при кожному розрахунку точкового продукту, який вимагає доступу до пам'яті для отримання зважених значень. Ці значення потім повинні бути збережені, і кожен вхід до вузла повинен бути незалежно розрахований.

Що зробив MIT - це створити чіп, який ближче імітує людський мозок. Вхідні значення перетворюються на електричні напруги, а потім множуться на відповідні ваги. Тільки об'єднані напруги перетворюються назад у цифрове представлення і зберігаються для обробки. Прототипний чіп може одночасно обчислити 16 точкових продуктів. Зберігаючи всі свої ваги як 1 або -1, система може бути реалізована як простий набір перемикачів, при цьому лише втрачаючи 2-3% точності в порівнянні з значно дорожчими нейронними мережами.

Непогано для підходу, який може зменшити споживання електроенергії до 95 відсотків. І це перспективна концепція майбутнього, в якій переваги хмарності та інтелектуальної власності не обмежуються тими, хто має надійний інтернет-сервіс у мобільному пристрої або вдома.

Найкращий імідж кредиту: Челсі Тернер / MIT

Читати далі

Зонд Voyager 2 розмовляє з оновленою мережею NASA через 8 місяців мовчання
Зонд Voyager 2 розмовляє з оновленою мережею NASA через 8 місяців мовчання

NASA щойно сказало "привіт" Voyager 2, і зонд відповів.

IBM прагне зменшити потужність, необхідну для тренування нейромережевих мереж, на 100x
IBM прагне зменшити потужність, необхідну для тренування нейромережевих мереж, на 100x

Спеціальний кремній для прискорення введення AI тут, але IBM хоче йти далі і використовувати гібридну обчислювальну архітектуру та елементи резистивного обчислення для підвищення ефективності навчання нейронних мереж.

Intel на CES 2019: Льодове озеро, 10nm частин, нові мережеві SoCs
Intel на CES 2019: Льодове озеро, 10nm частин, нові мережеві SoCs

Основний виступ CES компанії Intel охоплював широкий спектр тем, включаючи майбутні процесори, SoCs, а також нові продукти AI і 5G.

Вчені перетворюють сканування мозку в розумну мову з нейронною мережею
Вчені перетворюють сканування мозку в розумну мову з нейронною мережею

Стівен Хокінг був, мабуть, найвідомішим користувачем апаратного засобу синтезу мови "вокодера", але він не був один. Люди в усьому світі не в змозі говорити самостійно, але наука може наближатися до точки, де вони можуть перетворити свої внутрішні думки на мовлення без стомлюючого набору тексту або натискання.