Камери, AI на Self-Driving Cars можуть міс Darker-Skinned Faces
Пішоходи з більш темними відтінками шкіри ризикують не бути підхоплені системами розпізнавання AI у автомобілях, що самостійно управляють. Це висновок - і наслідки для безпеки - з недавнього дослідження, проведеного компанією Georgia Tech. Чим темнішим є тон шкіри, тим більшою є проблема розпізнавання пішохода у визнанні пішохода як такого.
Це слідкує за іншими дослідженнями, які виявили, що короткий пішохід може бути менш імовірно, щоб бути визнаним автономними транспортними засобами, ніж люди ближче до нормальної висоти. У ситуаціях, що не пов'язані з автомобілем, особи, які розпізнавали особи AI, мали більше проблем з визначенням статі людей з більш темними тонами шкіри. Окремо, програмне забезпечення для розпізнавання облич має більше проблем з визначенням статі при розборі зображень, які відомі (дослідникам) для жінок. У минулому Google іноді ідентифікував темніші людські обличчя, як шимпанзе або горили. Китайські користувачі iPhone X сказали, що програмне забезпечення для розпізнавання облич телефону не може розрізнити їх.
Що стосується дослідження Грузії Технології щодо передбачуваної несправедливості у визнанні пішоходів, дослідники спостерігали більш високі показники помилок для деяких демографічних даних. Вони провели дослідження з використанням восьми різних систем АІ і працювали з групою зображень людей різного тонусу шкіри. Зображення були розділені на категорії світліших і темніших шкір, використовуючи шкалу Fitzpatrick 1975, яка встановлює шість ступенів тонусу шкіри (1 - найсвітліший, 6 - найтемніший). Він використовується для широкого спектру досліджень, наприклад, скільки впливу УФ-світла викликає сонячний опік.
Дослідники сказали, що вони почали дослідження після випадкових спостережень, що сенсори, камери і програмне забезпечення зробили кращу роботу виявлення людей з більш світлими тонами шкіри. Потім вони провели лабораторні тести, а не в реальному світі. Тобто, дослідники не рекрутували волонтерів, що представляють шість тонів шкіри, змушували їх виходити на вулиці Атланти і переходити перед автономними транспортними засобами, щоб побачити, скільки їх було безпечно на іншу сторону. Замість цього, зображення подавалося на програмне забезпечення за вісьмома пішохідними / особовими розпізнавальними пристроями із застосуванням самостійного керування. Це не було тестом lidar, оптичних сканерів, які створюють докладні карти навколишнього оточення і анімують такі предмети, як люди і тварини.
Результати: Упередження розпізнавання на користь більш світлих тонів продовжувалися. Точність розпізнавання зображень людей з більш темною шкірою була на 5 відсотків нижчою, ніж для зображень людей з більш світлою шкірою.
Ось попередня інформація про колір шкіри та чому було проведено дослідження. Як стверджують автори Бенджамін Вілсон, Джуді Хоффман і Джеймі Моргенштерн:
Ранні попередження про те, що розпізнавання осіб може мати більшу точність щодо білих чоловіків, показали, що ця проблема може бути дещо пом'якшена системами навчання окремо для різних демографічних груп. Тим не менш, нещодавні, сучасні системи, розроблені багатьма основними технологічними конгломератами, продовжують розглядати поведінку своїх систем розпізнавання осіб. Показано, що комерційне програмне забезпечення прогнозування статі має набагато гіршу точність щодо жінок з типами шкіри Fitzpatrick 4-6 порівняно з іншими групами; Ця робота надихнула нас на використання шкали шкіри Фіцпатріка для класифікації пішоходів. ACLU встановив, що система розпізнавання облич Amazon неправильно підібрала ряд членів Конгресу з темнішою шкірою для того, щоб зреалізувати арешти по всій країні.
Критики дослідження - це, насамперед, академічні, що дане - придушували, що дослідники Georgia Tech не використовували набори даних (зображення та умови), які зазвичай використовуються розробниками автономних транспортних засобів. Кейт Кроуфорд, професор Нью-Йоркського університету, вивчаючи соціальні наслідки А. І., який не брав участі в дослідженні Georgia Tech, знімав назад у Twitter: «В ідеальному світі науковці будуть випробовувати фактичні моделі та навчальні набори, що використовуються автономними виробниками автомобілів. Але враховуючи, що ці [набори даних] ніколи не будуть доступні (проблема сама по собі), документи, подібні до них, пропонують глибоке розуміння реальних ризиків ».
Дослідження Georgia Tech показує, що існує стурбованість тим, що штучний інтелект, як ми тепер знаємо, все ще робить помилки у визнанні людей. Білі чоловіки з нормальною висотою дуже добре обізнані з розпізнавальними пристроями. Інші, які є темнішою шкірою, жінки, коротше або не мають кавказького фону, продовжують стикатися з проблемами.
Читати далі
Сторонні ремонтні магазини можуть бути заблоковані для обслуговування камери iPhone 12
Згідно з нещодавнім звітом iFixit, ворожість Apple до права ремонту досягла нових вершин з iPhone 12 та iPhone 12 Pro.
Астрономи, нарешті, можуть знати джерело швидких радіостанцій
Тріо нових досліджень повідомляють про FRB у нашій власній галактиці. Оскільки цей сигнал був набагато ближчим, ніж минулі сигнали, вчені змогли відстежити його до певного типу нейтронної зірки, відомого як магнітар.
Незабаром вакансії для AI можуть виглядати так. Ви готові?
Наше недавнє минуле показало нам, що ми можемо розробити тип машин, які незабаром відкриють абсолютно нове поле прибуткових та повноцінних робіт.
Апаратні прискорювачі можуть значно покращити час реакції робота
Якщо ми хочемо створити кращих роботів, вони повинні швидше планувати власні рухи. Нова дослідницька група вважає, що винайшла комбінований метод розгортання апаратного / програмного забезпечення, який може зменшити існуючі затримки вдвічі.