Камери, AI на Self-Driving Cars можуть міс Darker-Skinned Faces

Пішоходи з більш темними відтінками шкіри ризикують не бути підхоплені системами розпізнавання AI у автомобілях, що самостійно управляють. Це висновок - і наслідки для безпеки - з недавнього дослідження, проведеного компанією Georgia Tech. Чим темнішим є тон шкіри, тим більшою є проблема розпізнавання пішохода у визнанні пішохода як такого.

Це слідкує за іншими дослідженнями, які виявили, що короткий пішохід може бути менш імовірно, щоб бути визнаним автономними транспортними засобами, ніж люди ближче до нормальної висоти. У ситуаціях, що не пов'язані з автомобілем, особи, які розпізнавали особи AI, мали більше проблем з визначенням статі людей з більш темними тонами шкіри. Окремо, програмне забезпечення для розпізнавання облич має більше проблем з визначенням статі при розборі зображень, які відомі (дослідникам) для жінок. У минулому Google іноді ідентифікував темніші людські обличчя, як шимпанзе або горили. Китайські користувачі iPhone X сказали, що програмне забезпечення для розпізнавання облич телефону не може розрізнити їх.

Що стосується дослідження Грузії Технології щодо передбачуваної несправедливості у визнанні пішоходів, дослідники спостерігали більш високі показники помилок для деяких демографічних даних. Вони провели дослідження з використанням восьми різних систем АІ і працювали з групою зображень людей різного тонусу шкіри. Зображення були розділені на категорії світліших і темніших шкір, використовуючи шкалу Fitzpatrick 1975, яка встановлює шість ступенів тонусу шкіри (1 - найсвітліший, 6 - найтемніший). Він використовується для широкого спектру досліджень, наприклад, скільки впливу УФ-світла викликає сонячний опік.

Дослідники сказали, що вони почали дослідження після випадкових спостережень, що сенсори, камери і програмне забезпечення зробили кращу роботу виявлення людей з більш світлими тонами шкіри. Потім вони провели лабораторні тести, а не в реальному світі. Тобто, дослідники не рекрутували волонтерів, що представляють шість тонів шкіри, змушували їх виходити на вулиці Атланти і переходити перед автономними транспортними засобами, щоб побачити, скільки їх було безпечно на іншу сторону. Замість цього, зображення подавалося на програмне забезпечення за вісьмома пішохідними / особовими розпізнавальними пристроями із застосуванням самостійного керування. Це не було тестом lidar, оптичних сканерів, які створюють докладні карти навколишнього оточення і анімують такі предмети, як люди і тварини.

Результати: Упередження розпізнавання на користь більш світлих тонів продовжувалися. Точність розпізнавання зображень людей з більш темною шкірою була на 5 відсотків нижчою, ніж для зображень людей з більш світлою шкірою.

Ось попередня інформація про колір шкіри та чому було проведено дослідження. Як стверджують автори Бенджамін Вілсон, Джуді Хоффман і Джеймі Моргенштерн:

Ранні попередження про те, що розпізнавання осіб може мати більшу точність щодо білих чоловіків, показали, що ця проблема може бути дещо пом'якшена системами навчання окремо для різних демографічних груп. Тим не менш, нещодавні, сучасні системи, розроблені багатьма основними технологічними конгломератами, продовжують розглядати поведінку своїх систем розпізнавання осіб. Показано, що комерційне програмне забезпечення прогнозування статі має набагато гіршу точність щодо жінок з типами шкіри Fitzpatrick 4-6 порівняно з іншими групами; Ця робота надихнула нас на використання шкали шкіри Фіцпатріка для класифікації пішоходів. ACLU встановив, що система розпізнавання облич Amazon неправильно підібрала ряд членів Конгресу з темнішою шкірою для того, щоб зреалізувати арешти по всій країні.

Критики дослідження - це, насамперед, академічні, що дане - придушували, що дослідники Georgia Tech не використовували набори даних (зображення та умови), які зазвичай використовуються розробниками автономних транспортних засобів. Кейт Кроуфорд, професор Нью-Йоркського університету, вивчаючи соціальні наслідки А. І., який не брав участі в дослідженні Georgia Tech, знімав назад у Twitter: «В ідеальному світі науковці будуть випробовувати фактичні моделі та навчальні набори, що використовуються автономними виробниками автомобілів. Але враховуючи, що ці [набори даних] ніколи не будуть доступні (проблема сама по собі), документи, подібні до них, пропонують глибоке розуміння реальних ризиків ».

Дослідження Georgia Tech показує, що існує стурбованість тим, що штучний інтелект, як ми тепер знаємо, все ще робить помилки у визнанні людей. Білі чоловіки з нормальною висотою дуже добре обізнані з розпізнавальними пристроями. Інші, які є темнішою шкірою, жінки, коротше або не мають кавказького фону, продовжують стикатися з проблемами.

Читати далі

FTC подає антимонопольну справу про розпад Facebook

Генеральний прокурор Нью-Йорка Летіція Джеймс оголосила про велику антимонопольну справу проти Facebook, до якої приєднаються 47 інших державних та регіональних АГ. І це ще не все: Федеральна торгова комісія (FTC) пізніше сьогодні порушує окрему справу проти Facebook.

Microsoft обіцяє великі вдосконалення Surface Duo у 2021 році

Пристрій з подвійним екраном в 1400 доларів не надто новин з моменту його випуску, але зараз Microsoft обіцяє для Duo великий рік попереду. Інші програми розгортають інтеграцію Duo, і ви зможете придбати телефон у більшості країн.

Сигнал, Facebook Spar Over оголошення, що розкриває, який Facebook знає про вас

Сигнал претензій Facebook заборонив йому говорити правду до мільйонів людей. Сигнал Facebook вимагає всієї речі. Ласкаво просимо до Інтернету, де достовірність усього спірується, і кожен божевільний.

Facebook оголошує нову функцію OCUSUL VR: в ігрових оголошеннях

Facebook незабаром створюватиметься оголошення в VR Games. Компанія стверджує, що реклама буде корисною розробниками, але, здається, має щось на увазі.