Nvidia открывает Drive to All, представляет SoC для легковых автомобилей, TensorRT 7

Дженсен Хуанг из Nvidia объявил о захватывающих новостях в области автономных транспортных средств на GTC. Во-первых, компания делает общедоступными свои предварительно обученные модели Drive для исследований и разработок. Наряду с этим поставляется набор инструментов для обучения переносу, позволяющий настраивать и развертывать модели. Во-вторых, готовится новое семейство автомобильных SoC под названием ORIN. Также в своем выступлении Хуанг представил 7-ю версию TensorRT, в которой значительно улучшена поддержка диалогового ИИ.

Модели дисков Nvidia теперь доступны всем

Nvidia потратила огромное количество времени и денег на создание и обучение самых разных моделей для использования в создании автоматизированных систем вождения. Они варьируются от довольно стандартной навигации и планирования пути до всех типов сетей обнаружения и даже включают альтернативные способы зондирования, такие как лидар и радар.

Теперь Nvidia делает их все общедоступными через Nvidia GPU Cloud (GPC). В то время как это достаточно увлекательно, что модели теперь доступны для любого, у кого есть доступ к вычислительным ресурсам, еще более интересно, что Nvidia также предоставляет набор инструментов для обучения и развертывания передачи. Это позволяет пользователям загружать модели и настраивать их, проводя дальнейшее обучение на своих собственных данных. Полученные модели могут быть загружены и запущены в GPC, запущены на локальных графических процессорах или использованы с инструментами Nvidia для развертывания их на SoC Nvidia, таких как Xavier или новая SoC Orin.

Также поддерживается федеративное обучение, поэтому, например, глобальные автомобильные компании могли бы активно обучаться в нескольких регионах, чтобы создать общую глобальную модель.

Новый привод AGX Orin Auto SoC с 17 миллиардами транзисторов

Если есть одна вещь, с которой согласны большинство из тех, кто занимается разработкой автономных транспортных средств, это то, что им нужна вся вычислительная мощность, которую они могут получить. Большинство современных тестовых машин используют несколько мощных и графических процессоров. Для широкого распространения автомобили должны будут работать на менее дорогих, менее энергоемких, но даже более мощных процессорах.

Чтобы удовлетворить эти потребности, Nvidia анонсировала семейство автомобильных SoC Orin. Укомплектованная 17 миллиардами транзисторов и разработанная за последние четыре года, Orin будет способна выполнять более 200 триллионов операций в секунду (TOPS), что примерно в семь раз превышает производительность нынешнего SoC Xavier. Он включает в себя ядра ARM Hercules и архитектуру графического процессора нового поколения Nvidia. Разработанный как для транспортных средств, так и для роботов, Orin рекламируется с учетом стандартов безопасности, таких как ISO 26262 ASIL-D.

Nvidia утверждает, что это будет полезно от решений уровня 2 вплоть до уровня 5. Стоимость будет играть роль в том, насколько широко она будет использоваться в продуктах уровня 2, в то время как жюри все еще не знает, сколько лошадиных сил необходимо для уровня 5 так что я бы отметил это утверждение как спекуляцию. Хорошая новость для разработчиков заключается в том, что Orin использует тот же программный стек, что и Xavier, поэтому текущие проекты, использующие инструменты Nvidia, такие как CUDA и TensorRT, должны быть легко перенесены. Семейство Orin будет включать в себя ряд конфигураций, но на момент публикации Nvidia не опубликовала каких-либо конкретных дат доступности или цен.

Новый TensorRT 7 позволяет вести диалог в реальном времени

В то время как распознавание объектов и лиц раньше было наиболее распространенным приложением для искусственного интеллекта «на грани», распознавание и обработка голоса быстро догнали. По оценкам Jupiter Research, в настоящее время в мире насчитывается более 3 миллиардов устройств с цифровыми голосовыми помощниками. Не все из них включают необычное распознавание голоса и разговорные функции. До недавнего времени, тем не менее, те, которые делают это - обычно с использованием продвинутых языковых моделей, таких как BERT, - требовали мощных внутренних процессоров. Наряду с дополнительными требованиями к процессору и пропускной способности, это автоматически приводит к некоторым дополнительным задержкам обработки.

С TensorRT 7, Nvidia объявила, что она добавляет поддержку как Рекуррентных нейронных сетей (RNN), так и довольно многих популярных моделей искусственного интеллекта, основанных на функциях RNN, включая BERT, к своей дружественной среде выполнения выводов. Это означает, что будет возможно развернуть диалоговый ИИ на самых разнообразных встроенных устройствах, не требуя облачной связи или обработки. Nvidia заявляет об уровнях производительности для TensorRT 7, которые будут поддерживать время обработки менее 300 мс для конвейера распознавания речи, понимания естественного языка и генерации текста в речь.

Nvidia продолжает продвигать AI в Китае

Наряду с новостями о новом продукте, Nvidia объявила о значительных новых победах в дизайне в Китае. Диди, крупнейшая китайская фирма по обмену ездами, объявила о том, что будет использовать технологию Nvidia как для разработки, так и для развертывания собственных автомобилей.

Baidu, крупнейшая поисковая система Китая, объявила, что она использует графические процессоры Nvidia V100 в своем рекомендательном движке, что позволяет ему в 10 раз ускорить обучение сети по сравнению с его предыдущей технологией. В настоящее время Alibaba также осуществляет поиск пользователей по своему двухмиллиардному каталогу продуктов с помощью графических процессоров Nvidia T4. Это позволяет 500 миллионам пользователей ежедневно получать более быстрые и точные результаты поиска. Alibaba связывает это повышение производительности с впечатляющим 10-процентным увеличением CTR.

Читать далее

Камеры, AI на легковых автомобилях могут пропустить лица с более темной кожей

Исследователи из Georgia Tech обнаружили, что автомобильные системы искусственного интеллекта для самостоятельного вождения были менее точными при распознавании изображений пешеходов, когда лица имели более темные оттенки кожи.