Adobe AI может обнаруживать манипулируемые фотографии

Технологии могут и делают мир лучше, но некоторые инструменты, которые мы используем для достижения позитивных изменений, также могут быть направлены против нас, чтобы распространять ложь. Adobe надеется помочь замедлить распространение поддельных новостей с помощью инструментов для обнаружения манипулируемых изображений. Компания работала с учеными Калифорнийского университета в Беркли над созданием нейронной сети, способной распознавать поддельные фотографии и работать в обратном направлении, чтобы восстановить их первоначальный вид.

У Adobe уже есть некоторые функции в Photoshop, которые не позволяют людям использовать их в скрытых целях. Например, инструменты распознавания изображений блокируют манипулирование банкнотами. Эти файлы даже не открываются. Естественно, вы не можете запретить людям открывать файлы, которые содержат лица, но новый инструмент для проверки концепции от Adobe и UC Berkeley может сообщить вам, были ли изменены эти лица.

Этот инструмент обнаруживает использование инструмента Adobe Face Aware Liquify, который позволяет легко выполнять тонкие изменения лица человека на изображении. Обнаружение опирается на сверточную нейронную сеть, которая была обучена на примерах выстрелов в голову, отредактированных с помощью Photoshop, а также на тех же фотографиях перед изменением.

Перед проверкой точности нейронной сети Adobe хотела узнать, насколько хороши (или ужасны) люди в обнаружении манипулируемых фотографий. Он показал измененные и неизмененные выстрелы в голову некоторым добровольцам-людям, попросив их определить, какая фотография была подделкой. К сожалению для человечества, они смогли выбрать ложную фотографию только 53 процента времени, и это с обоими изображениями перед ними. ИИ, обученный на манипулированных фотографиях, смог обнаружить фальшивку с точностью 99%.

Инструмент обнаружения выделяет области изображения, которые кажутся измененными, и он может пойти еще дальше. Поскольку обучение основано на установленном инструменте Adobe, ИИ может отменить изменения, чтобы получить очень хорошее приближение к исходной фотографии.

Это впечатляющий первый шаг в борьбе с дезинформацией в Интернете, но существуют бесчисленные способы создания поддельных фотографий. Этот инструмент не сможет обнаружить ничего, кроме жидкостного фильтра для лица Photoshop. Для создания ИИ, который может учитывать все или даже большинство методов манипулирования изображениями, потребуется гораздо больше работы. Тем не менее, это, вероятно, хороший путь для исследований, поскольку люди так плохо замечают подделки.