Microsoft зупиняє продажі технологій читання емоцій, обмежує доступ до розпізнавання обличчя
У публікації в блозі, опублікованому у вівторок, програмний гігант оголосив, що це будуть інструменти аналізу обличчя заходу, які стверджують, що визнають емоційні стани та особисті атрибути, як стать чи вік людини. Раніше ці можливості були вільно доступні в API Azure Face, комп'ютерному баченню та відео -індексу. Тепер ті, хто вже має доступ до функцій емоційного читання Microsoft, матимуть один рік використання до того, як їх доступ буде відкликано.
"Ми співпрацювали з внутрішніми та зовнішніми дослідниками, щоб зрозуміти обмеження та потенційні переваги цієї технології та орієнтуватися на компроміси", - написала Сара Берд, головний менеджер продуктів AI AI. "Зокрема, у випадку класифікації емоцій ці зусилля викликали важливі питання щодо конфіденційності, відсутності консенсусу щодо визначення" емоцій ", та неможливість узагальнення зв'язку між виразом обличчя та емоційним станом у випадках використання, регіонів та демографії . Доступ API до можливостей, які прогнозують чутливі атрибути, також відкриває широкий спектр способів їх використання - включаючи підпорядкування людей стереотипізації, дискримінації чи несправедливої відмови в послугах ».
Microsoft також вирішила розмістити обмеження щодо того, хто зможе використовувати технологію розпізнавання обличчя в майбутньому. Вперед, всі, хто зацікавлений у використанні цих інструментів, повинен подати заявку, в якій детально описується їх проект, після чого Microsoft затвердить або заперечує доступ. Microsoft заявила, що незалежно оцінить переваги та ризики продовження використання як емоцій, так і інструментів розпізнавання обличчя для "контрольованих сценаріїв доступності", таких як власний бачення ШІ.
Рішення компанії дотримується широких зусиль щодо дослідження соціальних наслідків технологій емоцій та розпізнавання обличчя. Відомі правозахисні групи нещодавно закликали зум для його визнання настрою AI, який займає нічого не підозрюючи одержувачів дзвінків на "емоційні показники". Аналогічно, деякі стурбовані тим, що програмне забезпечення електронного навчання Intel, що читає емоції, неправильно орієнтується на студентів, які вважаються "відволіканими" або "розгубленими". Хоча ці заклики до дій часто ігноруються, вони іноді працюють: минулого місяця IRS скинув свою програму ID.ME, яка вимагала від користувачів завантажити відео Selfie для доступу до державних послуг, після отримання майже непереборного зворотного зв'язку. Зараз, здається, Microsoft приєдналася до лав бажаючих до підкладки - зробити правильно чи заради утримання клієнтів, хто знає.
Читати далі
Stargate Cast Reunites для столу Читання AI-Generated Script
Це не возз'єднання, яке ми заслуговуємо ... Це возз'єднання, яке нам потрібно прямо зараз.
Технологія "читання розуму" може перетворити мозкову діяльність на зображення
Вчені в Нідерландах поєднували функціональний МРТ -сканер з потужним алгоритмом AI для реконструкції візуальних подразників.
Facebook робить перші кроки у створенні технології читання розуму
Якщо ви все ще користуєтесь Facebook після скандалу Cambridge Analytica, Терезів та інших порушень конфіденційності та етики, ніж ви та ваша повна родина можете розраховувати на пальці і ноги, у вас не повинно виникати етичних проблем щодо інтерфейсу комп'ютер-мозок, який вони почали розвивати через два роки тому. Тепер прийшов перший плід їхніх трудів.