Adobe AI може виявляти маніпульовані фотографії

Технологія може і робить світ кращим місцем, але деякі інструменти, які ми використовуємо, щоб зробити позитивні зміни, також можуть бути спрямовані проти нас, щоб сприяти неправді. Adobe сподівається допомогти уповільнити розповсюдження підроблених новин за допомогою інструментів для виявлення маніпулюючих зображень. Компанія працювала з науковцями UC Berkeley для розробки нейронних мереж, які можуть виявляти фальшиві фотографії та працювати назад, щоб відновити свій первісний вигляд.

Adobe вже має деякі можливості в Photoshop, щоб запобігти їх використанню в тіні. Наприклад, засоби розпізнавання зображень блокують маніпулювання банкнотами. Ці файли навіть не відкриватимуться. Природно, ви не можете завадити людям відкривати файли, що містять обличчя, але новий інструмент перевірки концепції від Adobe і UC Berkeley може сказати вам, якщо ці особи були змінені.

Інструмент виявляє використання засобу Face Aware Liquify, що полегшує створення тонких налаштувань на зображенні. Виявлення покладається на Convolutional нейронну мережу, яка була підготовлена ​​з прикладами головок, відредагованих з Photoshop, а також тих самих фотографій перед зміною.

Перед тим, як перевірити точність нейронної мережі, Adobe хотів знати, наскільки хороші (або жахливі) люди були у виявленні маніпульованих фотографій. Це показало змінені та unaltered headhots до деяких людських добровольців, просячих їм ототожнитися котрий фото є підробка. На жаль для людства, їм вдалося підібрати лише фальшиву фотографію 53% часу, і це стосується обох зображень перед ними. AI, що навчався на маніпульованих фотографіях, зміг виявити підробку з точністю до 99%.

Інструмент виявлення виділяє ділянки зображення, які, здається, змінюються, і він може піти далі. Оскільки підготовка базується на створеному засобі Adobe, AI може змінити редагування, щоб створити дуже гарне наближення оригінальної фотографії.

Це вражаючий перший крок у боротьбі з дезінформацією в Інтернеті, але є незліченні способи створення підроблених фотографій. Цей інструмент не зможе виявити нічого, окрім фільтру для рідинного очищення обличчя Photoshop. Це займе набагато більше роботи, щоб створити AI, який може врахувати всі або навіть більшість методів маніпулювання зображеннями. Це, мабуть, хороший напрямок досліджень, хоча люди бачать, що люди так погано виявляють підробки.

Читати далі

Amazon скопійовано продукти продавців, маніпульованих алгоритмів, щоб відобразити свої власні версії

Вони кажуть, що імітація є найвищою формою лестощів, але для підприємств, які продають на Amazon, це може бути різниця між успіхом та руйнуванням.