Nvidia представляє розмовні технології AI для розумніших ботів

Тепер, коли майже кожен можливий мобільний пристрій чи пристрій прийняв або принаймні експериментував з голосовим управлінням, розмовний AI швидко стає новим рубежем. Замість обробки одного запиту та надання однієї відповіді чи дії, розмовна AI має на меті створити інтерактивну систему в реальному часі, яка може охоплювати декілька питань, відповідей та коментарів. Хоча фундаментальні складові розмовного інтелектуального інтерфейсу, такі як BERT та RoBERTa для моделювання мови, схожі з тими для розпізнавання мовлення в один кадр, концепція поставляється з додатковими вимогами до ефективності щодо навчання, поширення та розміру моделі. Сьогодні Nvidia випустила та відкрила три технології, розроблені для вирішення цих проблем.

Швидше навчання BERT

Швидше використання мовної моделі

Для природних розмов галузевий орієнтир - 10 мс час відгуку. Розуміння запиту та відповідь на запропоновану відповідь - це лише одна частина процесу, тому для цього потрібно зайняти менше 10 мс. Оптимізувавши BERT за допомогою TensorRT 5.1, Nvidia отримала можливість зараження за 2,2 мс на Nvidia T4. Приємно, що Т4 насправді знаходиться в межах досяжності майже будь-якого серйозного проекту. Я використовував їх у Google Compute Cloud для моєї системи генерації тексту. Віртуальний сервер 4-vCPU з T4 взяв напрокат трохи більше $ 1 / годину, коли я робив проект.

Підтримка ще більших моделей

Однак, Nvidia придумала спосіб дозволити декільком графічним процесорам паралельно працювати над завданням моделювання мови. Як і в інших анонсах сьогодні, вони відкрили код, щоб зробити це. Мені буде дуже цікаво, якщо методика є специфічною для мовних моделей або може бути застосована для того, щоб дозволити багатопроцесорний тренінг для інших класів нейронних мереж.

Поряд з цими розробками та випуском коду на GitHub, Nvidia оголосила, що вони будуть співпрацювати з Microsoft для поліпшення результатів пошуку Bing, а також з Clinc на голосових агентах, Passage AI на чатах та RecordSure на розмовну аналітику.

Читати далі

Бумерний гумор помилявся: відеоігри можуть зробити дітей розумнішими

Нове дослідження говорить про те, що гра у відеоігри насправді може зробити дітей розумнішими! Ми попросили одного з авторів дослідження допомогти нам зрозуміти, чому.

Бджоли розумніші, ніж ми раніше їм надали кредит, дослідження досліджень

За словами давнього дослідника бджіл Ларса Читки, ми "тепер маємо свідчення про те, що у бджіл є певний рівень свідомого усвідомлення".

Як стати менш пристрасним до вашого телефону, який тепер розумніше, ніж у вас

Ми вступили в епоху програм, які можуть запрограмувати нас, і вони стають все більш ефективними до цього дня. Дізнайтеся, як захистити себе від "циклів зворотного зв'язку, орієнтованих на допамін".

Купівля попередньо встановленого ігрового ПК тепер розумніше, ніж побудова власного

Зі зростанням цін на компоненти, ви, насправді, зможете придбати попередньо розроблений ігровий комп'ютер, навіть якщо це не зовсім те, що ви хочете.