Камеры, AI на легковых автомобилях могут пропустить лица с более темной кожей

Камеры, AI на легковых автомобилях могут пропустить лица с более темной кожей

Пешеходы с более темными оттенками кожи рискуют быть не уловленными системами распознавания AI в автомобилях с автоматическим управлением. К такому выводу и последствиям для безопасности относится недавнее исследование, проведенное Georgia Tech. Чем темнее тон кожи, тем больше проблем возникает у программы распознавания пешеходов при распознавании пешехода как такового.

Это следует из других исследований, которые обнаружили, что короткие пешеходы с меньшей вероятностью могут быть распознаны автономными транспортными средствами, чем люди ближе к нормальной высоте. В ситуациях, не связанных с автомобилем, распознаватели лица с ИИ сталкивались с большими трудностями при определении пола людей с более темным оттенком кожи. Кроме того, программное обеспечение для распознавания лиц сталкивалось с большими трудностями при определении пола при анализе изображений, известных (исследователям) женщин. В прошлом Google иногда идентифицировал более темные человеческие лица как шимпанзе или горилл. Китайские пользователи iPhone X сказали, что программное обеспечение для распознавания лиц телефона не может их различить.

Камеры, AI на легковых автомобилях могут пропустить лица с более темной кожей

Что касается исследования Georgia Tech по прогнозному неравенству в распознавании пешеходов, исследователи наблюдали более высокий уровень ошибок по некоторым демографическим показателям. Они организовали исследование, используя восемь различных систем искусственного интеллекта, и работали с группой изображений людей разных оттенков кожи. Изображения были разделены на категории светлой кожи и темной кожи, используя шкалу Фитцпатрика 1975 года, которая устанавливает шесть степеней тонуса кожи (1 самый светлый, 6 самый темный). Он используется для широкого спектра исследований, например, сколько воздействия ультрафиолета вызывает солнечные ожоги.

Исследователи сказали, что они начали исследование после случайных наблюдений, что датчики, камеры и программное обеспечение лучше распознавали людей с более светлыми тонами кожи. Затем они провели лабораторные тесты, а не в реальном мире. То есть исследователи не нанимали добровольцев, представляющих шесть тонов кожи, заставляли их выходить на улицы Атланты и пересекать перед автономными транспортными средствами, чтобы посмотреть, сколько из них благополучно добрались до другой стороны. Вместо этого изображения подавались в программное обеспечение после восьми распознавателей пешеходов / лиц с приложениями для самостоятельного вождения. Это был не тест лидаров, оптических сканеров, которые создают подробные карты окрестностей и живых объектов, таких как люди и животные.

Сканер сканер.
Сканер сканер.

Результаты: смещение признания в пользу более светлых изображений продолжалось. Точность распознавания для изображений людей с более темной кожей была на 5 процентов ниже, чем для изображений людей со светлой кожей.

Вот предыстория по цвету кожи и почему было проведено исследование. По словам авторов Бенджамин Уилсон, Джуди Хоффман и Джейми Моргенштерн:

Ранние предупреждения о том, что распознавание лиц может иметь более высокую точность на белых людях, показали, что эта проблема может быть несколько смягчена системами обучения отдельно для разных демографических групп. Тем не менее, последние современные системы, разработанные многими крупными техническими конгломератами, продолжают подвергаться проверке поведения их систем распознавания лиц. Было показано, что коммерческое программное обеспечение для гендерного прогнозирования имеет гораздо худшую точность для женщин с типами кожи Фитцпатрика 4-6 по сравнению с другими группами; эта работа вдохновила нас на использование скинов Fitzpatrick для классификации пешеходов. ACLU обнаружил, что система распознавания лиц Amazon неправильно совмещала ряд темнокожих членов Конгресса с громкими выстрелами от арестов по всей стране.

Критики исследования - это научное сообщество, это само собой разумеющееся - испытывали недовольство тем, что исследователи Georgia Tech не использовали наборы данных (изображения и условия), обычно используемые разработчиками автономных транспортных средств. Кейт Кроуфорд, профессор Нью-Йоркского университета, изучающая социальные последствия ИИ, которая не участвовала в техническом исследовании штата Джорджия, отреагировала на твиттер: «В идеальном мире ученые будут тестировать реальные модели и учебные комплекты, используемые автономными производителями автомобилей. Но, учитывая, что эти [наборы данных] никогда не становятся доступными (проблема сама по себе), подобные документы дают четкое представление об очень реальных рисках ».

Исследование Технологии Джорджии показывает, что существует обеспокоенность тем, что искусственный интеллект, как мы теперь знаем, все еще допускает ошибки в распознавании людей. Белые люди нормального роста очень хорошо знакомы с ИИ. Другие, с более темной кожей, женщины, ниже или ниже Кавказского происхождения, продолжают сталкиваться с проблемами.

Читать далее

Исследователи создают телефонный интерфейс на основе кожи, отвесные гл
Исследователи создают телефонный интерфейс на основе кожи, отвесные гл

Группа исследователей, работающих в компании под названием Skin-On, разработала новый и ужасающий метод управления устройством: человеческая кожа.