Камеры, AI на легковых автомобилях могут пропустить лица с более темной кожей
Пешеходы с более темными оттенками кожи рискуют быть не уловленными системами распознавания AI в автомобилях с автоматическим управлением. К такому выводу и последствиям для безопасности относится недавнее исследование, проведенное Georgia Tech. Чем темнее тон кожи, тем больше проблем возникает у программы распознавания пешеходов при распознавании пешехода как такового.
Это следует из других исследований, которые обнаружили, что короткие пешеходы с меньшей вероятностью могут быть распознаны автономными транспортными средствами, чем люди ближе к нормальной высоте. В ситуациях, не связанных с автомобилем, распознаватели лица с ИИ сталкивались с большими трудностями при определении пола людей с более темным оттенком кожи. Кроме того, программное обеспечение для распознавания лиц сталкивалось с большими трудностями при определении пола при анализе изображений, известных (исследователям) женщин. В прошлом Google иногда идентифицировал более темные человеческие лица как шимпанзе или горилл. Китайские пользователи iPhone X сказали, что программное обеспечение для распознавания лиц телефона не может их различить.
Что касается исследования Georgia Tech по прогнозному неравенству в распознавании пешеходов, исследователи наблюдали более высокий уровень ошибок по некоторым демографическим показателям. Они организовали исследование, используя восемь различных систем искусственного интеллекта, и работали с группой изображений людей разных оттенков кожи. Изображения были разделены на категории светлой кожи и темной кожи, используя шкалу Фитцпатрика 1975 года, которая устанавливает шесть степеней тонуса кожи (1 самый светлый, 6 самый темный). Он используется для широкого спектра исследований, например, сколько воздействия ультрафиолета вызывает солнечные ожоги.
Исследователи сказали, что они начали исследование после случайных наблюдений, что датчики, камеры и программное обеспечение лучше распознавали людей с более светлыми тонами кожи. Затем они провели лабораторные тесты, а не в реальном мире. То есть исследователи не нанимали добровольцев, представляющих шесть тонов кожи, заставляли их выходить на улицы Атланты и пересекать перед автономными транспортными средствами, чтобы посмотреть, сколько из них благополучно добрались до другой стороны. Вместо этого изображения подавались в программное обеспечение после восьми распознавателей пешеходов / лиц с приложениями для самостоятельного вождения. Это был не тест лидаров, оптических сканеров, которые создают подробные карты окрестностей и живых объектов, таких как люди и животные.
Результаты: смещение признания в пользу более светлых изображений продолжалось. Точность распознавания для изображений людей с более темной кожей была на 5 процентов ниже, чем для изображений людей со светлой кожей.
Вот предыстория по цвету кожи и почему было проведено исследование. По словам авторов Бенджамин Уилсон, Джуди Хоффман и Джейми Моргенштерн:
Ранние предупреждения о том, что распознавание лиц может иметь более высокую точность на белых людях, показали, что эта проблема может быть несколько смягчена системами обучения отдельно для разных демографических групп. Тем не менее, последние современные системы, разработанные многими крупными техническими конгломератами, продолжают подвергаться проверке поведения их систем распознавания лиц. Было показано, что коммерческое программное обеспечение для гендерного прогнозирования имеет гораздо худшую точность для женщин с типами кожи Фитцпатрика 4-6 по сравнению с другими группами; эта работа вдохновила нас на использование скинов Fitzpatrick для классификации пешеходов. ACLU обнаружил, что система распознавания лиц Amazon неправильно совмещала ряд темнокожих членов Конгресса с громкими выстрелами от арестов по всей стране.
Критики исследования - это научное сообщество, это само собой разумеющееся - испытывали недовольство тем, что исследователи Georgia Tech не использовали наборы данных (изображения и условия), обычно используемые разработчиками автономных транспортных средств. Кейт Кроуфорд, профессор Нью-Йоркского университета, изучающая социальные последствия ИИ, которая не участвовала в техническом исследовании штата Джорджия, отреагировала на твиттер: «В идеальном мире ученые будут тестировать реальные модели и учебные комплекты, используемые автономными производителями автомобилей. Но, учитывая, что эти [наборы данных] никогда не становятся доступными (проблема сама по себе), подобные документы дают четкое представление об очень реальных рисках ».
Исследование Технологии Джорджии показывает, что существует обеспокоенность тем, что искусственный интеллект, как мы теперь знаем, все еще допускает ошибки в распознавании людей. Белые люди нормального роста очень хорошо знакомы с ИИ. Другие, с более темной кожей, женщины, ниже или ниже Кавказского происхождения, продолжают сталкиваться с проблемами.
Читать далее
Луна Европа Юпитера может светиться в темноте
Интенсивная радиационная бомбардировка Европы может заставить ее светиться в темноте, и это может помочь ученым больше узнать о ледяных покровах Луны и океане внизу.
Новое исследование предполагает, что темной материи не существует
Большинство ученых в настоящее время полагают, что железная хватка гравитации усиливается темной материей, невидимым материалом, составляющим около 85 процентов Вселенной. Новое исследование приводит аргументы в пользу альтернативной модели, в которой темная материя не существует, а гравитация работает немного иначе, чем мы думали.
Быстровокружительные черные дыры могут сужать поиск темной материи
Возможное существование темной материи является одним из наиболее неприятных проблем в физике, но команда из MIT считает, что быстро вращающиеся черные дыры могут помочь сузить поиск этих загадочных частиц.
Млечный путь может иметь ядро темной материи вместо черной дыры
Объект, известный как Sagittarius a *, может фактически быть каленником темной материи, основываясь на свойствах нескольких объектов, замеченных вокруг него. Если это правда, это будет иметь серьезные последствия для нашего понимания вселенной.