Нейронні мережеві процесори MIT скорочують споживання електроенергії на 95 відсотків

Нейронні мережеві процесори MIT скорочують споживання електроенергії на 95 відсотків

На сьогодні процеси обробки нейромережець та робочого навантаження AI є гарячими темами, закликаючи декілька компаній оголосити свої власні кремнієві конструкції або підключити власне устаткування до вершини рішення для цих навантажень. Але однією проблемою з нейронними мережами є те, що вони, як правило, надзвичайно енергоємні, і не обов'язково підходять для мобільних пристроїв або такого роду слабкі "розумні" колонки, які нещодавно стали настільки популярними.

MIT стверджує, що розробив нейронний мережевий процесор, який вирішує ці проблеми, при загальному зменшенні потужності до 95 відсотків. Якщо це правда, це може змінити гру для таких видів додатків. Замість того, щоб змусити покладатися на підключення до хеш-пам'яті для керування AI (і використовувати владу, щоб підтримувати активність модему), SoCs могли б включити ці процесори та виконувати локальні розрахунки.

"Загальна модель процесора полягає в тому, що в деякій частині чіпа є пам'ять, а в іншій частині чіпа є процесор, і ви переміщаєте дані назад і вперед між ними, коли ви виконуєте ці обчислення", - сказав Авішек Бісвас , аспірант МІТ з електротехніки та інформатики, який керував розвитком нового чіпа:

Оскільки ці алгоритми машинного навчання потребують стільки обчислень, то передача даних назад і назад є домінуючою частиною споживання енергії. Але обчислення цих алгоритмів може бути спрощено до однієї конкретної операції, яка називається точками продукту. Наш підхід полягав у тому, чи можемо ми впровадити цю функцію точка-продукту всередині пам'яті, щоб вам не потрібно було передавати ці дані назад і назад?

Нейронні мережеві процесори MIT скорочують споживання електроенергії на 95 відсотків

Типова нейронна мережа організована в шари. Кожен вузол підключається до інших вузлів вище і нижче, а кожне з'єднання між вузлами має власну вагу. Вага в цьому контексті стосується того, скільки обчислень на удар, виконаних в одному вузлі, матиме на розрахунках, виконаних у вузлах, з якими він підключається. Вузли, що отримують введення з декількох вузлів над ним, множать входи, які вони отримують, за вагою кожного входу. Результат називається точками продукту. Якщо точка продукту перевищує певний поріг, вона посилається уздовж далі в ланцюжок. Але цей процес надзвичайно інтенсивний для пам'яті, при кожному розрахунку точкового продукту, який вимагає доступу до пам'яті для отримання зважених значень. Ці значення потім повинні бути збережені, і кожен вхід до вузла повинен бути незалежно розрахований.

Що зробив MIT - це створити чіп, який ближче імітує людський мозок. Вхідні значення перетворюються на електричні напруги, а потім множуться на відповідні ваги. Тільки об'єднані напруги перетворюються назад у цифрове представлення і зберігаються для обробки. Прототипний чіп може одночасно обчислити 16 точкових продуктів. Зберігаючи всі свої ваги як 1 або -1, система може бути реалізована як простий набір перемикачів, при цьому лише втрачаючи 2-3% точності в порівнянні з значно дорожчими нейронними мережами.

Непогано для підходу, який може зменшити споживання електроенергії до 95 відсотків. І це перспективна концепція майбутнього, в якій переваги хмарності та інтелектуальної власності не обмежуються тими, хто має надійний інтернет-сервіс у мобільному пристрої або вдома.

Найкращий імідж кредиту: Челсі Тернер / MIT

Читати далі

Руки На: Як Mazda бензиновий дизель може підняти MPG 20-30 відсотків

Творчість протікає з найменшого автовиробника: двигун SkyActiv-X стискає бензин, поки сам не горить. Він використовує надлегку повітря / паливну суміш, досить низьку, щоб іноді користуватися свічкою для запуску (тільки) згоряння.

Раунд-Пап ET пропозиції: останній шанс попередньо замовляти Galaxy S9 до 50 відсотків, 600 доларів для Lenovo Micro Desktop і багато іншого

Незабаром з'явиться Galaxy S9, і це одна з останніх можливостей попереднього замовлення та збереження великих. Залежно від того, який постачальник ви замовляєте, ви потенційно можете заощадити до 50 відсотків з торговими і кредитами в іграх. Ми також знайшли чудові покупки на 4K телевізорах, пристроях для домашньої автоматизації та ноутбуках, так що подивіться.

Раунд-дп ET Deals: до 50 відсотків від продажу Logitech, 20 відсотків від Echo Spot тощо

Тільки сьогодні ви можете заощадити до 51% на вибраних аксесуарах Logitech на Amazon. Миші, клавіатури, динаміки та багато іншого продаються за різкими знижками. І якщо ви знаходитесь на ринку для цифрового помічника, ви можете зачепити Echo Spot або Echo Show на дешевому. Щоденний угода Амазонки: периферія Logitech ...

ET Round Round: 20 відсотків від Amazon Warehouse Tech, 700 доларів для ноутбука Inspiron 15 і багато іншого

На даний момент Dell пропонує 15,6-дюймовий Inspiron 15 5000 з процесором Intel Core i7 сьомого покоління, 16 Гб оперативної пам'яті і виділену відеокарту Radeon R7 M445 всього за 700 доларів. Ви також можете підібрати новий Nintendo LABO, зберегти його в переглядачі Google DayDream VR, а також отримати додаткову 20-відсоткову знижку на вибрані угоди Amazon зі складу.