Камеры, AI на легковых автомобилях могут пропустить лица с более темной кожей

Пешеходы с более темными оттенками кожи рискуют быть не уловленными системами распознавания AI в автомобилях с автоматическим управлением. К такому выводу и последствиям для безопасности относится недавнее исследование, проведенное Georgia Tech. Чем темнее тон кожи, тем больше проблем возникает у программы распознавания пешеходов при распознавании пешехода как такового.

Это следует из других исследований, которые обнаружили, что короткие пешеходы с меньшей вероятностью могут быть распознаны автономными транспортными средствами, чем люди ближе к нормальной высоте. В ситуациях, не связанных с автомобилем, распознаватели лица с ИИ сталкивались с большими трудностями при определении пола людей с более темным оттенком кожи. Кроме того, программное обеспечение для распознавания лиц сталкивалось с большими трудностями при определении пола при анализе изображений, известных (исследователям) женщин. В прошлом Google иногда идентифицировал более темные человеческие лица как шимпанзе или горилл. Китайские пользователи iPhone X сказали, что программное обеспечение для распознавания лиц телефона не может их различить.

Что касается исследования Georgia Tech по прогнозному неравенству в распознавании пешеходов, исследователи наблюдали более высокий уровень ошибок по некоторым демографическим показателям. Они организовали исследование, используя восемь различных систем искусственного интеллекта, и работали с группой изображений людей разных оттенков кожи. Изображения были разделены на категории светлой кожи и темной кожи, используя шкалу Фитцпатрика 1975 года, которая устанавливает шесть степеней тонуса кожи (1 самый светлый, 6 самый темный). Он используется для широкого спектра исследований, например, сколько воздействия ультрафиолета вызывает солнечные ожоги.

Исследователи сказали, что они начали исследование после случайных наблюдений, что датчики, камеры и программное обеспечение лучше распознавали людей с более светлыми тонами кожи. Затем они провели лабораторные тесты, а не в реальном мире. То есть исследователи не нанимали добровольцев, представляющих шесть тонов кожи, заставляли их выходить на улицы Атланты и пересекать перед автономными транспортными средствами, чтобы посмотреть, сколько из них благополучно добрались до другой стороны. Вместо этого изображения подавались в программное обеспечение после восьми распознавателей пешеходов / лиц с приложениями для самостоятельного вождения. Это был не тест лидаров, оптических сканеров, которые создают подробные карты окрестностей и живых объектов, таких как люди и животные.

Результаты: смещение признания в пользу более светлых изображений продолжалось. Точность распознавания для изображений людей с более темной кожей была на 5 процентов ниже, чем для изображений людей со светлой кожей.

Вот предыстория по цвету кожи и почему было проведено исследование. По словам авторов Бенджамин Уилсон, Джуди Хоффман и Джейми Моргенштерн:

Ранние предупреждения о том, что распознавание лиц может иметь более высокую точность на белых людях, показали, что эта проблема может быть несколько смягчена системами обучения отдельно для разных демографических групп. Тем не менее, последние современные системы, разработанные многими крупными техническими конгломератами, продолжают подвергаться проверке поведения их систем распознавания лиц. Было показано, что коммерческое программное обеспечение для гендерного прогнозирования имеет гораздо худшую точность для женщин с типами кожи Фитцпатрика 4-6 по сравнению с другими группами; эта работа вдохновила нас на использование скинов Fitzpatrick для классификации пешеходов. ACLU обнаружил, что система распознавания лиц Amazon неправильно совмещала ряд темнокожих членов Конгресса с громкими выстрелами от арестов по всей стране.

Критики исследования - это научное сообщество, это само собой разумеющееся - испытывали недовольство тем, что исследователи Georgia Tech не использовали наборы данных (изображения и условия), обычно используемые разработчиками автономных транспортных средств. Кейт Кроуфорд, профессор Нью-Йоркского университета, изучающая социальные последствия ИИ, которая не участвовала в техническом исследовании штата Джорджия, отреагировала на твиттер: «В идеальном мире ученые будут тестировать реальные модели и учебные комплекты, используемые автономными производителями автомобилей. Но, учитывая, что эти [наборы данных] никогда не становятся доступными (проблема сама по себе), подобные документы дают четкое представление об очень реальных рисках ».

Исследование Технологии Джорджии показывает, что существует обеспокоенность тем, что искусственный интеллект, как мы теперь знаем, все еще допускает ошибки в распознавании людей. Белые люди нормального роста очень хорошо знакомы с ИИ. Другие, с более темной кожей, женщины, ниже или ниже Кавказского происхождения, продолжают сталкиваться с проблемами.

Читать далее

Сторонние ремонтные мастерские могут быть заблокированы для обслуживания камеры iPhone 12

Согласно недавнему отчету iFixit, неприязнь Apple к праву на ремонт достигла новых высот с iPhone 12 и iPhone 12 Pro.

Новый смартфон Sony Xperia Pro - это аксессуар для камеры за 2500 долларов

Это устройство предназначено для профессиональных фотографов и энтузиастов, которым нужен мощный аксессуар для своих фотоаппаратов. Это также первый смартфон Sony 5G в США, но его цена потрясающая - 2500 долларов.

Google будет использовать камеру Pixel для измерения пульса и дыхания

Как и многие другие проекты машинного обучения Google, этот в первую очередь появится на телефонах Pixel, и, вероятно, он будет реализован на других телефонах.

В новом телефоне Xiaomi есть дополнительный дисплей в горке камеры

Китайский мобильный гигант Xiaomi собирается анонсировать новое устройство под названием Mi 11 Ultra, и информация об устройстве просочилась рано. У него есть гигантский модуль камеры, поддерживающий до 120-кратного увеличения, и даже дополнительный экран. Да скрин в горбатой камере. Думаю, почему бы и нет?