NVIDIA розкриває процесор глибокого навчання Грейс для суперкомп'ютерних додатків

NVIDIA розкриває процесор глибокого навчання Грейс для суперкомп'ютерних додатків

NVIDIA вважає, що це час для традиційного процесора, щоб відступити, коли справа доходить до вирішення найбільших завдань машинного навчання, особливо тренування величезних моделей, які зараз знаходяться вгору від трьох трильйонів. Звичайні супер-комп'ютери використовують спеціалізовані процесори - часто GPUS - зробити більшу частину складно-інтенсивної математики під час тренувань, але GPU, як правило, не може розмістити майже кількість необхідної пам'яті, не кажучи вже більше поділитися ним у конфігураціях Multi-GPU. Таким чином, машина часто є більшою кількістю швидкості отримання даних з пам'яті CPU до GPU та назад.

Завдяки Nvidia's New Grace глибокого навчального процесора, яку сьогодні компанія, яка відкрила, суперкомп'ютерний GPUS отримує як набагато більш швидкий доступ до пам'яті процесора, так і набагато краща сукупна пропускна здатність, коли кілька графів у парі з одним процесором. NVIDIA каже, що пристрій вимагав 10 000 технічних років роботи, але з урахуванням свого подарунка для гіперболи, ми не впевнені, що вони включають. І, як ви вже здогадалися, КПУ на підставі Arm-Based названий на честь Грейс-бункера, раннього обчислювального піонера.

Ключ до посилення продуктивності Grace - це взаємозв'язки NVLink NVIDIA між КПУ та множинним графіком. NVIDIA каже, що він може перемістити 900 Гб / секунду над NVLink, що багато разів більше пропускної здатності, ніж зазвичай доступна між CPU та GPU. Сама пам'ять процесора також оптимізована, оскільки благодать буде використовувати LPDDR5X RAM для процесора. Grace також буде мати уніфікований простір пам'яті та кеш-кеш між процесором та GPU, який повинен зробити програмування GPGPU менше головного болю. Він буде підтримувати бібліотеки NVIDIA та Cuda-X, а також комплект програмного забезпечення для розробки HPC.

В цілому, NVIDIA каже, що система Powered Endia, яка зможе тренувати великі моделі (подумайте про трильйони та вгору), а також запускати подібні симуляції до 10 разів швидше, ніж аналогічна система, використовуючи CPUS x86. Незвія була обережна, щоб підкреслити, що це не бачить благодать, що переміщує процесори X86 у додатках, менших, ніж це.

NVIDIA розкриває процесор глибокого навчання Грейс для суперкомп'ютерних додатків

Як захоплюючий, як потенціал для благодаті, це буде час, перш ніж хтось буде працювати з одним. NVIDIA очікує, що чіп буде доступний у 2023 році. Компанія також оголосила, що Швейцарський суперкомп'ютерний центр та національна лабораторія LOS Alamos планують створювати масові нові суперкомп'ютери, використовуючи Grace CPU. Машини будуть побудовані компанією HP Enterprise, і, як очікується, прийти в Інтернеті в тому ж році. Обидва клієнти збуджуються, що нові машини дозволять їм проаналізувати великі набори даних, ніж раніше, і підвищити ефективність їх наукового обчислювального програмного забезпечення.

Читати далі

Google повідомив розробникам Stadia, що вони досягли «великого прогресу», а потім звільнили їх
Google повідомив розробникам Stadia, що вони досягли «великого прогресу», а потім звільнили їх

Google заявив розробникам Stadia, що вони роблять "великий прогрес". Потім це звільнило їх, менше ніж через тиждень.

Чиновники Пентагону Короткий конгрес щодо НЛО на історичних слуханнях
Чиновники Пентагону Короткий конгрес щодо НЛО на історичних слуханнях

Ми хочемо вірити, але поки Пентагон каже, що у нього не так багато відповідей. Це придивиться уважно.

Байденські дзвінки на конгрес пройшовши Білл Фінансування чіп
Байденські дзвінки на конгрес пройшовши Білл Фінансування чіп

Незважаючи на те, що Чіпи діють пройшов Конгрес у січні, він потребує фінансування, перш ніж він може працювати.

Нещодавно відкритий кратер Гренландія - мільйони років старше, ніж віри
Нещодавно відкритий кратер Гренландія - мільйони років старше, ніж віри

Кілька років тому вчені виявили кратер, ховаючись під льодовим листом Гренландії. У той час вони вважали, що це було від трьох мільйонів і 1200 років. Тепер ми знаємо, що вони пропустили знак мільйонам років.