Nvidia представляє розмовні технології AI для розумніших ботів

Nvidia представляє розмовні технології AI для розумніших ботів

Тепер, коли майже кожен можливий мобільний пристрій чи пристрій прийняв або принаймні експериментував з голосовим управлінням, розмовний AI швидко стає новим рубежем. Замість обробки одного запиту та надання однієї відповіді чи дії, розмовна AI має на меті створити інтерактивну систему в реальному часі, яка може охоплювати декілька питань, відповідей та коментарів. Хоча фундаментальні складові розмовного інтелектуального інтерфейсу, такі як BERT та RoBERTa для моделювання мови, схожі з тими для розпізнавання мовлення в один кадр, концепція поставляється з додатковими вимогами до ефективності щодо навчання, поширення та розміру моделі. Сьогодні Nvidia випустила та відкрила три технології, розроблені для вирішення цих проблем.

Швидше навчання BERT

Nvidia представляє розмовні технології AI для розумніших ботів

Швидше використання мовної моделі

Для природних розмов галузевий орієнтир - 10 мс час відгуку. Розуміння запиту та відповідь на запропоновану відповідь - це лише одна частина процесу, тому для цього потрібно зайняти менше 10 мс. Оптимізувавши BERT за допомогою TensorRT 5.1, Nvidia отримала можливість зараження за 2,2 мс на Nvidia T4. Приємно, що Т4 насправді знаходиться в межах досяжності майже будь-якого серйозного проекту. Я використовував їх у Google Compute Cloud для моєї системи генерації тексту. Віртуальний сервер 4-vCPU з T4 взяв напрокат трохи більше $ 1 / годину, коли я робив проект.

Підтримка ще більших моделей

Однак, Nvidia придумала спосіб дозволити декільком графічним процесорам паралельно працювати над завданням моделювання мови. Як і в інших анонсах сьогодні, вони відкрили код, щоб зробити це. Мені буде дуже цікаво, якщо методика є специфічною для мовних моделей або може бути застосована для того, щоб дозволити багатопроцесорний тренінг для інших класів нейронних мереж.

Поряд з цими розробками та випуском коду на GitHub, Nvidia оголосила, що вони будуть співпрацювати з Microsoft для поліпшення результатів пошуку Bing, а також з Clinc на голосових агентах, Passage AI на чатах та RecordSure на розмовну аналітику.

Читати далі

ET Deals: Безкоштовна розмова, текст та дані за допомогою $ 0,99 SIM-карти від FreedomPop
ET Deals: Безкоштовна розмова, текст та дані за допомогою $ 0,99 SIM-карти від FreedomPop

Вам не потрібно витрачати великі кошти на послуги мобільного зв'язку, якщо ви знаєте, де шукати. На даний момент FreedomPop пропонує трьохдискову SIM-картку всього за $ 0,99, а основний рівень обслуговування безкоштовний. Цей пристрій призначений для роботи з найбільш розблокованими телефонами GSM, це чудовий спосіб зберегти, якщо у вас вже є пристрій, готовий до роботи.

BMW буде отримувати розмовний "Personal Assistant" в 2019 році
BMW буде отримувати розмовний "Personal Assistant" в 2019 році

Особистий помічник BMW може використовуватися в автомобілі, прогулянки по вулиці або вдома. BMW конкурує з Siri та Google Assistant. Це виходить весною 2019 року.

Піксельні телефони Google незабаром зможуть розмовляти з 911 операторами
Піксельні телефони Google незабаром зможуть розмовляти з 911 операторами

Автоматизовані 911 дзвінки незабаром зможуть зв’язатись із службами екстреної допомоги та передати ваше точне місцезнаходження, не сказавши слова.