NVIDIA представляет «Грейс» Глубококулярный ЦП для суперкомпьютеров

NVIDIA думает, что пришло время для традиционных процессоров отступить в сторону, когда речь идет о борьбе с крупнейшими задачами машинного обучения, особенно тренирующихся огромных моделей, которые сейчас являются до параметров триллиона. Обычные супер-компьютеры используют специализированные процессоры - часто графические процессоры - делать большую часть компетеровной математики во время тренировок, но графические процессоры не могут проводить почти необходимую объем памяти, не говоря уже о том, чтобы поделиться ею быстро в конфигурациях нескольких графических процессоров. Таким образом, машина часто тесно связана со скоростью получения данных от памяти ЦП на GPU и обратно.

С Nvidia's New Grace Greate The Deep-Tearning Cpu, которая представила сегодня, SuperComputer GPU GPU намного быстрее доступа к памяти CPU и гораздо лучшей совокупной пропускной способности, когда множественный график GPU сочетается с одним процессором CPU. NVIDIA говорит, что устройство требует 10000 инженерных лет работы, но учитывая их подарок для гипербола, мы не уверены, что они в том числе. И, как вы уже догадались, процессор на основе ARM назван в честь Грейса Бункера, раннего вычислительного пионера.

Ключ к усилению производительности благодати - это соединения NVIDIA NVLINK между процессором и несколькими графическими процессорами. NVIDIA говорит, что он может перемещать 900 ГБ в / секунду по NVLink, который много раз больше пропускной способности, чем обычно доступен между CPU и GPU. Сама памяти ЦП также оптимизирована, поскольку Grace будет использовать RPDDR5X RAM для CPU. Грейс также будет оснастить унифицированное пространство памяти и когерентность кэм между процессором и графическим процессором, которая должна сделать GPGPU программировать меньше головной боли. Он будет поддерживать библиотеки NVIDIA CUDA и CUDA-X, а также комплект разработки программного обеспечения HPC.

В целом, NVIDIA заявляет, что система благодатим, обеспечивающая широкую моделей (думаю, что параметры триллиона и вверх), и запустите моделирование с аналогичным размером в 10 раз быстрее, чем аналогичная система, используя CPUS. NVIDIA была осторожна, чтобы подчеркнуть, однако, что она не видит благодати, вытесняя процессоры x86 в приложениях меньше, чем это.

Как увлекательно, как потенциал для благодати, это будет некоторое время, прежде чем кто-то будет работать с одним. NVIDIA ожидает, что чип будет доступен в 2023 году. Компания также объявила, что Swiss Supercomputing Center и National Laboratory Los Alamos планируют построить массивные новые суперкомпьютеры с использованием CPU GRACE CPU. Машины будут построены HP Enterprise, и ожидается, что придет онлайн в тот же год. Оба клиента взволнованы, что новые машины позволят им проанализировать большие наборы наборов данных, чем раньше, и улучшить производительность их научного вычислительного программного обеспечения.