Nvidia представляет технологию искусственного интеллекта для умных бот
Теперь, когда почти каждое возможное мобильное устройство и устройство либо приняли, либо, по крайней мере, экспериментировали с голосовым управлением, диалоговый ИИ быстро становится новой границей. Вместо того, чтобы обрабатывать один запрос и предоставлять один ответ или действие, диалоговый ИИ стремится предоставить интерактивную систему в реальном времени, которая может охватывать несколько вопросов, ответов и комментариев. В то время как основные строительные блоки диалогового ИИ, такие как BERT и RoBERTa для языкового моделирования, аналогичны тем, которые используются для распознавания речи одним выстрелом, концепция поставляется с дополнительными требованиями к производительности для обучения, логического вывода и размера модели. Сегодня Nvidia выпустила три технологии с открытым исходным кодом, предназначенные для решения этих проблем.
Ускоренное обучение BERT
Ускорение языковой модели
Для естественных разговоров отраслевой стандарт - время отклика 10 мс. Понимание запроса и получение предложенного ответа - это только одна часть процесса, поэтому для его выполнения требуется менее 10 мс. Оптимизируя BERT с помощью TensorRT 5.1, Nvidia получает его за 2,2 мс на Nvidia T4. Что круто, так это то, что T4 на самом деле доступен практически любому серьезному проекту. Я использовал их в Google Compute Cloud для моей системы генерации текста. Виртуальный сервер 4-vCPU с T4 арендовал чуть более $ 1 / час, когда я делал проект.
Поддержка даже более крупных моделей
Тем не менее, Nvidia разработала способ, позволяющий нескольким графическим процессорам параллельно работать над задачей моделирования языка. Как и в других сегодняшних анонсах, они сделали код открытым, чтобы это произошло. Мне было бы очень любопытно, если этот метод специфичен для языковых моделей или может применяться для обучения нескольких графических процессоров для других классов нейронных сетей.
Наряду с этими разработками и выпуском кода для GitHub, Nvidia объявила, что будет сотрудничать с Microsoft для улучшения результатов поиска Bing, а также с Clinc для голосовых агентов, Passage AI для чат-ботов и RecordSure для диалоговой аналитики.
Читать далее
Обзор MSI Nvidia RTX 3070 Gaming X Trio: производительность 2080 Ti, цены на Pascal
Новый RTX 3070 от Nvidia - потрясающий графический процессор по хорошей цене, и MSI RTX 3070 Gaming X Trio хорошо это демонстрирует.
Nvidia будет имитировать память AMD Smart Access на Ampere: отчет
Память AMD Smart Access еще даже не отправлена, но Nvidia утверждает, что может дублировать эту функцию.
Nvidia представляет графический процессор Ampere A100 80 ГБ с пропускной способностью памяти 2 ТБ / с
На этой неделе Nvidia анонсировала графический процессор Ampere A100 объемом 80 ГБ для разработчиков программного обеспечения AI, которым действительно нужно немного места, чтобы размять ноги.
Nvidia и Google будут поддерживать облачные игры на iPhone через веб-приложения
И Nvidia, и Google объявили о поддержке iOS для своих облачных игровых платформ через прогрессивные веб-приложения. Apple не может это заблокировать.