Microsoft останавливает продажи технологий эмоций, ограничивает доступ к распознаванию лиц

В сообщении в блоге, опубликованном во вторник, программный гигант объявил, что это будет инструменты для анализа лица, которые будут претендовать на выявление эмоциональных состояний и личных атрибутов, таких как пол или возраст человека. Раньше эти возможности были свободно доступны в API API Azure Face, Computer Vision и Video Indexer. Теперь те, кто уже имеет доступ к функциям эмоциональной чтения Microsoft, будут иметь один год использования до того, как их доступ будет отозван.

«Мы сотрудничали с внутренними и внешними исследователями, чтобы понять ограничения и потенциальные преимущества этой технологии и ориентироваться в компромиссах», - пишет Сара Берд, главный менеджер по продукту Azure AI, в должности. «В частности, в случае классификации эмоций эти усилия подняли важные вопросы о конфиденциальности, отсутствие консенсуса по определению« эмоций », и неспособности обобщать связь между выражением лица и эмоциональным состоянием в разных случаях использования, регионах и демографии Анкет Доступ API к возможностям, которые прогнозируют чувствительные атрибуты, также открывает широкий спектр способов, которые их можно использовать, в том числе подвергая людей стереотипам, дискриминации или несправедливому отрицанию услуг ».

Microsoft также решила наложить ограничения на то, кто сможет использовать свою технологию распознавания лиц в будущем. В дальнейшем любому, кто заинтересован в использовании этих инструментов, должен будет подать заявку, подробно описывающую их проект, после чего Microsoft одобрит или отрицает доступ. Microsoft заявила, что будет независимо оценивать преимущества и риски продолжения использования как эмоций, так и инструментов распознавания лиц для «сценариев контролируемого доступности», таких как его собственное видение ИИ.

Решение компании следует широко распространенным усилиям по изучению социальных последствий эмоций и технологий распознавания лиц. Известные правозащитные группы недавно вызвали Zoom для своего AI распознавания настроения, который оценивает ничего не подозревающих получателей продаж на «эмоциональной карте показателей». Точно так же некоторые обеспокоены тем, что программное обеспечение для чтения эмоций Intel будет неправильно нацелено или отталкивает студентов, которые считаются «отвлеченными» или «запутанными». В то время как эти призывы к действию часто игнорируются, они иногда работают: в прошлом месяце IRS сбросил свою программу id.me, которая требовала, чтобы пользователи загружали видео селфи для доступа к государственным услугам после получения почти единодушной обратной реакции. Теперь Microsoft, похоже, присоединилась к рядам тех, кто хочет поддержать - чтобы поступить правильно или ради того, чтобы держать клиентов, кто знает.

Читать далее

IRS падает программа распознавания лица, используемая для проверки идентичностей

IRS столкнулся с интенсивным давлением, чтобы найти лучшее решение, и удивительно его капитулировали.

ClearView планирует базу данных распознавания лица, которая знает каждого человека на земле

ClearView AI стремится создать базу данных распознавания лиц, которая включает в себя. Да ты. Но не только ты. ClearView хочет, чтобы ее база данных включить каждого человека на землю, и он думает, что он может добраться туда, сифонируя 100 миллиардов фотографий из Интернета.

Технология распознавания лица получает адвокат, загружаемый из Radio City Music Hall

Ее преступление? Быть адвокатом в той юридической фирме.

Amazon попыталась продать ICE свою неисправную технику распознавания лиц

В этом году Amazon очень хотела продать свое программное обеспечение для распознавания лиц для распознавания в ICE, несмотря на испытания сторонних производителей, показывающие проблемы с его точностью при использовании для идентификации небелых индивидуумов, не являющихся мужчинами.