Nvidia представляет технологию искусственного интеллекта для умных бот
Теперь, когда почти каждое возможное мобильное устройство и устройство либо приняли, либо, по крайней мере, экспериментировали с голосовым управлением, диалоговый ИИ быстро становится новой границей. Вместо того, чтобы обрабатывать один запрос и предоставлять один ответ или действие, диалоговый ИИ стремится предоставить интерактивную систему в реальном времени, которая может охватывать несколько вопросов, ответов и комментариев. В то время как основные строительные блоки диалогового ИИ, такие как BERT и RoBERTa для языкового моделирования, аналогичны тем, которые используются для распознавания речи одним выстрелом, концепция поставляется с дополнительными требованиями к производительности для обучения, логического вывода и размера модели. Сегодня Nvidia выпустила три технологии с открытым исходным кодом, предназначенные для решения этих проблем.
Ускоренное обучение BERT
Ускорение языковой модели
Для естественных разговоров отраслевой стандарт - время отклика 10 мс. Понимание запроса и получение предложенного ответа - это только одна часть процесса, поэтому для его выполнения требуется менее 10 мс. Оптимизируя BERT с помощью TensorRT 5.1, Nvidia получает его за 2,2 мс на Nvidia T4. Что круто, так это то, что T4 на самом деле доступен практически любому серьезному проекту. Я использовал их в Google Compute Cloud для моей системы генерации текста. Виртуальный сервер 4-vCPU с T4 арендовал чуть более $ 1 / час, когда я делал проект.
Поддержка даже более крупных моделей
Тем не менее, Nvidia разработала способ, позволяющий нескольким графическим процессорам параллельно работать над задачей моделирования языка. Как и в других сегодняшних анонсах, они сделали код открытым, чтобы это произошло. Мне было бы очень любопытно, если этот метод специфичен для языковых моделей или может применяться для обучения нескольких графических процессоров для других классов нейронных сетей.
Наряду с этими разработками и выпуском кода для GitHub, Nvidia объявила, что будет сотрудничать с Microsoft для улучшения результатов поиска Bing, а также с Clinc для голосовых агентов, Passage AI для чат-ботов и RecordSure для диалоговой аналитики.
Читать далее
Лучшие системы безопасности умного дома
Когда-то являвшиеся нишевым бизнесом с несколькими традиционными игроками и несколькими стартапами, системы домашней безопасности теперь являются основным полем битвы не только для охранных компаний, но и для нескольких интернет-гигантов. Мы собрали самые популярные варианты на 2020 год.
Умные ОС Планирование частично объясняет отзывчивость Apple M1
Некоторые из улучшенной отзывы M1 поставляются вежливость в новых методах планирования ОС.
Анализ показывает Alexa Amazon собирает больше данных, чем любой другой умный помощник
Если вы Adamant о покупке смарт-помощника, Alexa не может быть вашим лучшим вариантом. Новое сравнение конфиденциальности по сравнению с приборами гиганта Commerce мертвых последних.
Владельцы прибегают к взлому умные беговые дорожки после того, как NordicTrack заблокируют их
После того, как клиенты начали устанавливать свои собственные приложения в компании Smart Treathmill на 4000 долларов на 4000 долларов, Nordictrack выпустили обновление программного обеспечения, которое их заблокировало. Владельцы не счастливы.