Nvidia представляет технологию искусственного интеллекта для умных бот

Теперь, когда почти каждое возможное мобильное устройство и устройство либо приняли, либо, по крайней мере, экспериментировали с голосовым управлением, диалоговый ИИ быстро становится новой границей. Вместо того, чтобы обрабатывать один запрос и предоставлять один ответ или действие, диалоговый ИИ стремится предоставить интерактивную систему в реальном времени, которая может охватывать несколько вопросов, ответов и комментариев. В то время как основные строительные блоки диалогового ИИ, такие как BERT и RoBERTa для языкового моделирования, аналогичны тем, которые используются для распознавания речи одним выстрелом, концепция поставляется с дополнительными требованиями к производительности для обучения, логического вывода и размера модели. Сегодня Nvidia выпустила три технологии с открытым исходным кодом, предназначенные для решения этих проблем.

Ускоренное обучение BERT

Ускорение языковой модели

Для естественных разговоров отраслевой стандарт - время отклика 10 мс. Понимание запроса и получение предложенного ответа - это только одна часть процесса, поэтому для его выполнения требуется менее 10 мс. Оптимизируя BERT с помощью TensorRT 5.1, Nvidia получает его за 2,2 мс на Nvidia T4. Что круто, так это то, что T4 на самом деле доступен практически любому серьезному проекту. Я использовал их в Google Compute Cloud для моей системы генерации текста. Виртуальный сервер 4-vCPU с T4 арендовал чуть более $ 1 / час, когда я делал проект.

Поддержка даже более крупных моделей

Тем не менее, Nvidia разработала способ, позволяющий нескольким графическим процессорам параллельно работать над задачей моделирования языка. Как и в других сегодняшних анонсах, они сделали код открытым, чтобы это произошло. Мне было бы очень любопытно, если этот метод специфичен для языковых моделей или может применяться для обучения нескольких графических процессоров для других классов нейронных сетей.

Наряду с этими разработками и выпуском кода для GitHub, Nvidia объявила, что будет сотрудничать с Microsoft для улучшения результатов поиска Bing, а также с Clinc для голосовых агентов, Passage AI для чат-ботов и RecordSure для диалоговой аналитики.

Читать далее

EKWB представляет кулер Пельтье на базе технологии Intel Cryo Cooling

Intel и EKWB совместно анонсировали новый водоблок, в который встроен кулер Пельтье.

Гарвардский астроном по-прежнему считает, что межзвездный объект был инопланетной технологией

Ученые классифицировали Оумуамуа по-разному как астероид или комету, но Ави Лоеб, председатель отдела астрономии Гарварда, считает, что это действительно было инопланетянином - часть инопланетной технологии, которую мы приняли за естественный космический камень.

Google закрывает студию Stadia Games и планирует лицензировать технологию

Google говорит, что это всего лишь часть более широкой стратегии по укреплению партнерских отношений со Stadia, но это похоже на начало конца для платформы потоковой передачи игр Google.

Intel платит через 125 млн долларов на команду дизайна технологии Centaur Technology

VIA и Intel подписали сделку в размере 125 миллионов долларов, по сообщениям, для Austin Engineering Compare.