Google нейронна мережа може виділяти індивідуальні голоси у відео

Google нейронна мережа може виділяти індивідуальні голоси у відео

Кров'янистий край інформатики в наші дні полягає у тому, щоб зробити комп'ютери більш схожими на людей. Ми використовуємо нейронні мережі, щоб допомогти машинам розпізнавати об'єкти, грати в ігри та навіть говорити більш реально. У рамках нового подвигу машинознавчої магії, Google Research розробила систему, яка може відтворити "ефект коктейль-партії", де ваш мозок фокусується на одному аудіо-джерелі в тісній кімнаті. Результати є вражаючими - це майже турбує так.

Google називає цю техніку "Looking to listen", оскільки вона дивиться відео з кількома динаміками, щоб розбити звук - він використовує як слухові, так і візуальні сигнали, як і ваш мозок. Також немає нічого особливого щодо цих відеороликів. Це лише відео з однією звуковою доріжкою, що складається з більш ніж однієї людини.

Google нейронна мережа може виділяти індивідуальні голоси у відео

Щоб створити інструмент для цього, Google почав з 100 000 зразків якісних лекцій та переговорів з YouTube. Інженери рубали відео, щоб отримати сегменти чистої мови з чітко вираженими динаміками та відсутності фонового шуму. Це дало Google Research 2 000 годин відео, що складається з однієї особи, яка виступає (вони називають це набором даних AVSpeech). Хитрість полягала у використанні цих чистих зразків для створення "підроблених" коктейльних вечірок. Дослідники об'єднали відео, тому кілька людей говорили. Це дані, які Google використовувала для навчання нейронної мережі.

Як і багато інших досягнень Google Research, у цьому використовувалася сверточная нейронна мережа. Вхід до мережі складається з візуальних особливостей динаміків, а також спектрограми звукової доріжки відео. Під час обробки відео мережа дізнається, як розділити відеозапис на "частотну маску часу" для кожного динаміка. Вихідна маска узгоджується з спектрограмою аудіовходу, щоб генерувати окремі звукові доріжки.

Після завершення навчання Google розгорнула мережу на нових відео. Як ви можете бачити на прикладах Google, це працює надзвичайно добре. Модель «Шукаю слухати» може визначити, який звук походить від динаміка, і відфільтровувати все інше. Ця технологія може мати програми для відеоконференцій, слухових апаратів та відеоспостереження.

На останньому пункті ця технологія може бути настільки потужною, що неважко уявити сценарії, де його зловживають. Завдяки швидким і точно визначеним покращенням, спостерігач міг вибрати ваш голос на переповненій вулиці, щоб дізнатись, що ви сказали. Немає жодних ознак того, що Google не має наміру робити це, але це не єдине під час дослідження нейронних мереж.

Читати далі

Телефонний довідник Huawei стосовно AT & T, як повідомляється, загинув від політики

Майбутня (і непередбачена) угода з AT & T про продаж нової серії Mate 10 повинна була стати початком натиску Huawei на Північну Америку, але ця операція, як повідомляється, розвалилася на останній хвилині після того, як AT & T застудився, і деякі джерела вказують до політичної справи.

Перший смартфон Vivo Demos з сенсором відбитків пальців на дисплеї

У CES, китайський виробник смартфонів Vivo знаходиться під рукою, щоб показати перший телефон з датчиком відбитків пальців всередині дисплея.

Нова помилка безпеки MacOS відкриває App Store з будь-яким паролем

MacOS High Sierra Apple має недоліки в останній версії, що дозволяє користувачам адміністрування обійти заблокований магазин додатків, ввівши будь-який пароль, який їм подобається.

OnePlus може випадково відправляти дані буфера обміну до китайського сервера

Останній бета-версією свого спеціального "OxygenOS" Android build надсилає дані буфера обміну для користувачів на сервер у Китаї. Ой!