Nvidia AI превращает регулярное видео в высокоскоростное видео 240 кадров в секунду

Съемка замедленного видео требует захвата более стандартных 30 или 60 кадров в секунду. У вас может не всегда быть аппаратное обеспечение, которое может это сделать, но у Nvidia есть обходной путь. Он разработал новый алгоритм AI, который может взять ваше обычное видео и построить новые кадры из ничего для создания высокоскоростного видео после того, как вы сняли событие. Nvidia выполнила этот подвиг с помощью массива графических процессоров и нейронной сети.

Высокоскоростное видео является более доступным, чем когда-либо. Вам не нужны многотысячные камеры, чтобы захватывать что-то в замедленном темпе, когда телефоны, такие как Galaxy S9, могут снимать со скоростью 240 кадров в секунду. Однако ограниченное пространство для хранения и вычислительная мощность означают, что вы можете взять всего несколько секунд высокоскоростного видео. Немногие потребители собираются купить устройство, разработанное специально для захвата высокоскоростного видео. Таким образом, система Nvidia может взять ваше обычное видео и сделать его высокоскоростным, посмотрев на существующие фреймы. Затем он создает новые промежуточные фреймы (до семи из них), поэтому движение становится более плавным, когда вы его замедляете.

Новые кадры - хорошее приближение к реальности, но они не реальны - большинство фреймов генерируются компьютером. Nvidia использовала графические процессоры Tesla V100 и инфраструктуру нейронной сети cuDNN для создания модели для обработки видео в высокоскоростном видео. Команда обучила сеть более чем 11 000 видео повседневных событий, снятых со скоростью 240 кадров в секунду. Сеть научилась эмулировать видео 240fps, чтобы предсказать дополнительные кадры в видео, которые имеют только 30 кадров в секунду.

Nvidia успешно замедлила 30fps видео автомобиля занос через дорогу, люди, занимающиеся спортом, и многое другое. Без интерполированных кадров из нейронной сети замедление этого видео просто делает его похожим на прерывистую анимацию движения остановки. Сеть даже работает на видео, которое уже было снято в замедленном режиме. Nvidia использовал кадры из серии YouTube The Slow Mo Guys, которая снята со скоростью 240 кадров в секунду. Команда замедлила эти видеоролики в четыре раза с одинаковым плавным движением.

Примеры, показанные Nvidia, впечатляют. Если вы не знали, что кадры были в основном произведены компьютером, вы, возможно, не подозревали, что что-то не так. Однако заметным ограничением является то, что нейронная сеть не может обрабатывать только любое старое видео. Он был обучен определенным типам видео, поэтому он может только замедлять аналогичные видеоролики с 30 кадрами в секунду. Например, чтобы замедлить видеосъемку автомобиля, Nvidia необходимо было обучить сеть высокоскоростным видео заносом автомобилей. Это все еще довольно впечатляет для исследовательского проекта. Надеюсь, когда-нибудь он станет реальной потребительской технологией.

Читать далее

Starlink Maritime приносит высокоскоростный интернет на яхтам всего за 5000 долларов в месяц

Сервис является идеальным дополнением для кого-то, кто потратил несколько сотен миллионов на лодку-настройка стоит 10 000 долларов, а ежемесячная плата-в 5000 долларов.

Epson Fastfoto FF-680W Обзор: потрясающий высокоскоростный фотоканер

Если вы смотрели на обувные ящики старых фотографий, страшные, сколько времени вам понадобится, чтобы сканировать их, Epson FF-680W является отличным решением.

Samsung анонсирует высокоскоростной прорыв HBM2, Codenamed Aquabolt

Samsung нашла способ резко увеличить скорость на HBM2 без увеличения напряжения. Может ли это стать поворотным моментом для стандарта?

Phantom v2640 Высокоскоростная камера может снимать 11 750 кадров в секунду в Full HD

Эта камера записывается с разрешением более высокого разрешения, но это не впечатляющая часть. Нет, впечатляющая часть заключается в том, что он записывается с разрешением более высокого разрешения с невероятным количеством кадров 6 600 кадров в секунду. Вы можете подтолкнуть его еще выше при более низких разрешениях.