Nvidia відкриває диск для всіх, відкриває SoC для автомобілів, що керують автотранспортом, TensorRT 7

Єнсен Хуанг від Nvidia оголосив про захоплюючі новини про автономний транспортний засіб у викладі компанії GTC. По-перше, компанія робить свої попередньо підготовлені моделі Drive загальнодоступними для досліджень та розробок. Поряд із цим поставляється набір засобів передачі навчання, щоб зробити моделі налаштованими та розгорнутими. По-друге, нове сімейство автомобільних SoC під назвою ORIN на шляху. Також у викладі, Хуан оприлюднив версію 7 TensorRT із значно покращеною підтримкою розмовного інтелекту.

Моделі приводу Nvidia тепер доступні для всіх

Nvidia витратила величезну кількість часу та грошей на створення та навчання широкого спектру моделей для використання у створенні автоматизованих водійних систем. Вони варіюються від досить стандартної навігації та планування шляху до всіх типів мереж виявлення і навіть включають альтернативні способи зондування, такі як лідар і радари.

Тепер Nvidia робить їх усіма загальнодоступними через свою облачну графічну технологію Nvidia (GPC). Хоча це досить захоплююче, що зараз моделі можуть отримати доступ до будь-кого, хто має обчислювальний бюджет, але ще цікавіше, що Nvidia також пропонує набір інструментів для навчання та розгортання передач. Це дозволяє користувачам завантажувати моделі та налаштовувати їх, здійснюючи подальше навчання за власними даними. Отримані в результаті моделі можна завантажити та запустити в GPC, запустити на локальних графічних процесорах або використовувати інструменти Nvidia для їх розгортання на Nvidia SoC, як Xavier або новий Orin SoC.

Також підтримується федеральне навчання, тому, наприклад, світові автомобільні компанії можуть активно навчатись у кількох географіях для створення загальної глобальної моделі.

Новий привід AGX Orin Auto SoC Sports на 17 мільярдів транзисторів

Якщо є одна річ, з якою погоджуються більшість тих, хто працює над розробкою автономних транспортних засобів, це те, що їм потрібна вся технологічна потужність, яку вони можуть отримати. Більшість сучасних тестових машин покладаються на декілька потужних процесорів та графічних процесорів. Для широкого впровадження автомобілям доведеться працювати на менш дорогих, менш потужних, але навіть більш потужних процесорах.

Щоб допомогти задовольнити ці потреби, Nvidia оголосила сімейство автомобілів Soin автомобілів Orin. Укомплектований 17 мільярдами транзисторів і розроблений протягом останніх чотирьох років, Orin зможе здійснити понад 200 трильйонів операцій в секунду (TOPS), що приблизно в сім разів перевищує показники нинішнього Xavier SoC. Він включає ядра процесора ARM Hercules та архітектуру GPU нового покоління. Розроблений як для транспортних засобів, так і для роботів, Orin розрахований на те, щоб бути розробленим з дотриманням стандартів безпеки, як ISO 26262 ASIL-D.

Nvidia стверджує, що це буде корисно від рішень 2 рівня аж до рівня 5. Вартість буде відігравати фактор того, наскільки широко вона використовується у продуктах рівня 2, а журі все ще не знає, скільки кінських сил потрібно для рівня 5 , тож я зазначив би цю вимогу як спекуляцію. Хороша новина для розробників полягає в тому, що Orin працює з тим же стеком програмного забезпечення, що і Xavier, тому поточні проекти, які використовують такі інструменти Nvidia, як CUDA і TensorRT, повинні легко переходити. Сімейство Орін буде включати цілий спектр конфігурацій, але станом на час преси Nvidia не випустила жодних конкретних дат доступності та цін.

Новий TensorRT 7 дозволяє інтелектуальний інтелект в режимі реального часу

Хоча розпізнавання об'єктів і обличчя було найпоширенішими програмами AI «на краю», розпізнавання голосу та обробка голосу швидко наздогнали. За даними Jupiter Research, за підрахунками, зараз існує понад 3 мільярди пристроїв, які включають цифрові голосові помічники. Не всі вони містять фантастичне розпізнавання голосу та розмовні функції. До недавнього часу, однак для тих, що роблять - як правило, використовуючи передові мовні моделі, такі як BERT - потрібні потужні резервні процесори. Поряд із додатковими вимогами до процесора та пропускної здатності, це автоматично вводить деякі додаткові затримки обробки.

Завдяки TensorRT 7 Nvidia оголосила, що додає підтримку як рекуррентних нейронних мереж (RNN), так і досить багатьох популярних розмовних моделей AI, які грунтуються на особливостях RNN, включаючи BERT, своїм зручним для крайового часу виконанню. Це означає, що можна буде розгортати розмовний інтелект AI у широкому спектрі вбудованих пристроїв, не вимагаючи хмарного підключення чи обробки. Nvidia вимагає рівнів продуктивності для TensorRT 7, який підтримуватиме час, що перевищує 300 мс, для розпізнавання мовлення, розуміння природного мови та створення системи текстового мовлення.

Nvidia продовжує робити AI вторгнення в Китаї

Поряд із новинками про нові продукти, Nvidia оголосила про значні нові дизайнерські перемоги в Китаї. Спираючись на свою автомобільну силу, Didi - найбільша в Китаї фірма, яка ділиться їздою - оголосила, що використовуватиме технологію Nvidia і для розробки, і для розгортання своїх самозаїзних автомобілів.

Найбільша пошукова система в Китаї Baidu оголосила, що використовує графічні процесори Nvidia V100 у своєму рекомендаційному механізмі, що дозволяє їй досягти 10-кратного прискорення в мережевому навчанні за попередніми технологіями. Тепер Alibaba також забезпечує пошук користувачів у своєму каталозі двох мільярдів продуктів за допомогою графічних процесорів Nvidia T4. Це дозволяє своїм 500 мільйонам щоденних користувачів отримувати швидші та точніші результати пошуку. Alibaba приписує це підвищення продуктивності з вражаючим 10-відсотковим приростом швидкості кліків (CTR).

Читати далі

ЗВІТ: Google Tensor Chip використовуватиме 5nm процесу, Samsung до виробництва

Цей чіп прийде в новому пікселі 6 і 6 Pro пізніше цього року, але Google не запропонував жодної реальної деталі апаратного забезпечення на тензор, за винятком того, що він заснований на технології від своїх чіпів сервера Tensor AI. Незважаючи на себе нову доповідь, в тому числі кілька танталізуючих деталей.