Nvidia представляє розмовні технології AI для розумніших ботів
Тепер, коли майже кожен можливий мобільний пристрій чи пристрій прийняв або принаймні експериментував з голосовим управлінням, розмовний AI швидко стає новим рубежем. Замість обробки одного запиту та надання однієї відповіді чи дії, розмовна AI має на меті створити інтерактивну систему в реальному часі, яка може охоплювати декілька питань, відповідей та коментарів. Хоча фундаментальні складові розмовного інтелектуального інтерфейсу, такі як BERT та RoBERTa для моделювання мови, схожі з тими для розпізнавання мовлення в один кадр, концепція поставляється з додатковими вимогами до ефективності щодо навчання, поширення та розміру моделі. Сьогодні Nvidia випустила та відкрила три технології, розроблені для вирішення цих проблем.
Швидше навчання BERT
Швидше використання мовної моделі
Для природних розмов галузевий орієнтир - 10 мс час відгуку. Розуміння запиту та відповідь на запропоновану відповідь - це лише одна частина процесу, тому для цього потрібно зайняти менше 10 мс. Оптимізувавши BERT за допомогою TensorRT 5.1, Nvidia отримала можливість зараження за 2,2 мс на Nvidia T4. Приємно, що Т4 насправді знаходиться в межах досяжності майже будь-якого серйозного проекту. Я використовував їх у Google Compute Cloud для моєї системи генерації тексту. Віртуальний сервер 4-vCPU з T4 взяв напрокат трохи більше $ 1 / годину, коли я робив проект.
Підтримка ще більших моделей
Однак, Nvidia придумала спосіб дозволити декільком графічним процесорам паралельно працювати над завданням моделювання мови. Як і в інших анонсах сьогодні, вони відкрили код, щоб зробити це. Мені буде дуже цікаво, якщо методика є специфічною для мовних моделей або може бути застосована для того, щоб дозволити багатопроцесорний тренінг для інших класів нейронних мереж.
Поряд з цими розробками та випуском коду на GitHub, Nvidia оголосила, що вони будуть співпрацювати з Microsoft для поліпшення результатів пошуку Bing, а також з Clinc на голосових агентах, Passage AI на чатах та RecordSure на розмовну аналітику.
Читати далі
Новий MIT AI самостійно розробляє роботів
Команда вважає, що RoboGrammar може направити дослідників на нові напрямки, що призведе до більш ефективних та винахідливих конструкцій.
Boston Dynamics прощається з 2020 роком із танцювальною вечіркою роботів
Одного разу на наших могилах можуть танцювати роботи, і вони будуть напрочуд добре в цьому!
Апаратні прискорювачі можуть значно покращити час реакції робота
Якщо ми хочемо створити кращих роботів, вони повинні швидше планувати власні рухи. Нова дослідницька група вважає, що винайшла комбінований метод розгортання апаратного / програмного забезпечення, який може зменшити існуючі затримки вдвічі.
Новий сферичний робот міг вивчити місячні печери
Ми не знаємо багато про середовище підземного середовища Місяця, але те ж саме було вірно поверхні Місяця в минулому. Для вивчення цих невидимих глибин, Європейське космічне агентство оцінює сферичний робот, що виступає за допомогою спінінгових камер.