Камери, AI на Self-Driving Cars можуть міс Darker-Skinned Faces

Пішоходи з більш темними відтінками шкіри ризикують не бути підхоплені системами розпізнавання AI у автомобілях, що самостійно управляють. Це висновок - і наслідки для безпеки - з недавнього дослідження, проведеного компанією Georgia Tech. Чим темнішим є тон шкіри, тим більшою є проблема розпізнавання пішохода у визнанні пішохода як такого.

Це слідкує за іншими дослідженнями, які виявили, що короткий пішохід може бути менш імовірно, щоб бути визнаним автономними транспортними засобами, ніж люди ближче до нормальної висоти. У ситуаціях, що не пов'язані з автомобілем, особи, які розпізнавали особи AI, мали більше проблем з визначенням статі людей з більш темними тонами шкіри. Окремо, програмне забезпечення для розпізнавання облич має більше проблем з визначенням статі при розборі зображень, які відомі (дослідникам) для жінок. У минулому Google іноді ідентифікував темніші людські обличчя, як шимпанзе або горили. Китайські користувачі iPhone X сказали, що програмне забезпечення для розпізнавання облич телефону не може розрізнити їх.

Що стосується дослідження Грузії Технології щодо передбачуваної несправедливості у визнанні пішоходів, дослідники спостерігали більш високі показники помилок для деяких демографічних даних. Вони провели дослідження з використанням восьми різних систем АІ і працювали з групою зображень людей різного тонусу шкіри. Зображення були розділені на категорії світліших і темніших шкір, використовуючи шкалу Fitzpatrick 1975, яка встановлює шість ступенів тонусу шкіри (1 - найсвітліший, 6 - найтемніший). Він використовується для широкого спектру досліджень, наприклад, скільки впливу УФ-світла викликає сонячний опік.

Дослідники сказали, що вони почали дослідження після випадкових спостережень, що сенсори, камери і програмне забезпечення зробили кращу роботу виявлення людей з більш світлими тонами шкіри. Потім вони провели лабораторні тести, а не в реальному світі. Тобто, дослідники не рекрутували волонтерів, що представляють шість тонів шкіри, змушували їх виходити на вулиці Атланти і переходити перед автономними транспортними засобами, щоб побачити, скільки їх було безпечно на іншу сторону. Замість цього, зображення подавалося на програмне забезпечення за вісьмома пішохідними / особовими розпізнавальними пристроями із застосуванням самостійного керування. Це не було тестом lidar, оптичних сканерів, які створюють докладні карти навколишнього оточення і анімують такі предмети, як люди і тварини.

Результати: Упередження розпізнавання на користь більш світлих тонів продовжувалися. Точність розпізнавання зображень людей з більш темною шкірою була на 5 відсотків нижчою, ніж для зображень людей з більш світлою шкірою.

Ось попередня інформація про колір шкіри та чому було проведено дослідження. Як стверджують автори Бенджамін Вілсон, Джуді Хоффман і Джеймі Моргенштерн:

Ранні попередження про те, що розпізнавання осіб може мати більшу точність щодо білих чоловіків, показали, що ця проблема може бути дещо пом'якшена системами навчання окремо для різних демографічних груп. Тим не менш, нещодавні, сучасні системи, розроблені багатьма основними технологічними конгломератами, продовжують розглядати поведінку своїх систем розпізнавання осіб. Показано, що комерційне програмне забезпечення прогнозування статі має набагато гіршу точність щодо жінок з типами шкіри Fitzpatrick 4-6 порівняно з іншими групами; Ця робота надихнула нас на використання шкали шкіри Фіцпатріка для класифікації пішоходів. ACLU встановив, що система розпізнавання облич Amazon неправильно підібрала ряд членів Конгресу з темнішою шкірою для того, щоб зреалізувати арешти по всій країні.

Критики дослідження - це, насамперед, академічні, що дане - придушували, що дослідники Georgia Tech не використовували набори даних (зображення та умови), які зазвичай використовуються розробниками автономних транспортних засобів. Кейт Кроуфорд, професор Нью-Йоркського університету, вивчаючи соціальні наслідки А. І., який не брав участі в дослідженні Georgia Tech, знімав назад у Twitter: «В ідеальному світі науковці будуть випробовувати фактичні моделі та навчальні набори, що використовуються автономними виробниками автомобілів. Але враховуючи, що ці [набори даних] ніколи не будуть доступні (проблема сама по собі), документи, подібні до них, пропонують глибоке розуміння реальних ризиків ».

Дослідження Georgia Tech показує, що існує стурбованість тим, що штучний інтелект, як ми тепер знаємо, все ще робить помилки у визнанні людей. Білі чоловіки з нормальною висотою дуже добре обізнані з розпізнавальними пристроями. Інші, які є темнішою шкірою, жінки, коротше або не мають кавказького фону, продовжують стикатися з проблемами.

Читати далі

2018 Nissan Rogue Review: Slick Self-Driving Compact SUV

Nissan вишикує місця на центрі смуги і допомагає регулювати круїз-контроль, щоб проїхати на великі відстані (також години зупинки пішки) без проблем. ProPilot Assist - корисна технологія, а не трюк.