Amazon намагалася продати ICE своїм пошкодженню технології розпізнавання обличчя

Amazon намагалася продати ICE своїм пошкодженню технології розпізнавання обличчя

Нові документи, отримані за Заявою про Закон про свободу інформації, представленого Проектом про державний нагляд (POGO), показали, що компанія Amazon зустрілася з відділом імміграції та митного контролю США та прийняла рішення про застосування технології розпізнавання обличчя Recognition.

На електронній пошті 15 червня представник Amazon з продажу подякував ICE за зустріч із представниками консалтингової компанії McKinsey в місті Редвуд-Сіті, округ Колумбія, повідомляє The Daily Beast. "Ми готові і готові підтримати життєву місію ІСІ", - написав консультант.

Тепер, якщо бути зрозумілим, HSI - Homeland Security Investigations - є відокремленим від операцій ICE ERO (Виконання та видалення), яка є підрозділом, відповідальним за багато видів діяльності, які найбільше обурили багатьох американців, включаючи виконання рішення про затримання сім'ї Адміністрації Трампа . Тим не менш, існує серйозна занепокоєння щодо того, що компанія Amazon ліцензувала програмне забезпечення "Recognition" будь-якому правоохоронному органу - це стосується власних працівників компанії, зроблених за шість днів після надсилання цього електронного листа. ACLU опублікував результати дослідження в травні, який продемонстрував, як Амазонка агресивно продавала свою продукцію правоохоронним органам. Компанія довгий час перебуває в бізнесі спостереження непрямим чином - система спостереження Palantir працює на базі AWS. Початок безпосереднього нагляду повинен здаватися природним кроком.

Але, хоча HSI та ERO можуть бути різними підрозділами DHS, існує набагато більш безпосередня, проста причина для протидії розгортанню цих програм або їх продажу правоохоронним органам: вони не працюють добре. Якщо ви білі, то програма, як Rekognition, дорівнює точності до 99%. Якщо ви не є, кратерів точності. Відповідно до тестів, проведених MIT Media Lab, програмне забезпечення для розпізнавання обличчя від IBM, Microsoft та Face ++ помилково ідентифікували жінок із темнішими шкірами як чоловіки у 35% випадків. Чоловіки з темнішими тонами шкіри були неправильними у 12 відсотках випадків, до 7 відсотків - у жінок з більш легкими шкірами та 1 відсотком випадків у чоловіків з більш легкими шкірами. Як я вже писав про людей раніше, люди дуже схильні вірити в те, що комп'ютери безпомилково передають програмне забезпечення, в якому від 1 до 3 та 1 до 14 осіб, імовірно, буде помилково ідентифіковано або помилково позначено.

Хоча ці тести не включали Recognition, ACLU протестувала рішення Amazon в липні, запустивши членів Конгресу через базу даних Recognition. Результатом тесту було 28 помилкових спрацьовувань за злочини. Люди кольору представляють 20 відсотків конгресу, але припадає 40 відсотків помилкових спрацьовувань, коли система пізнання відбита.

Amazon намагалася продати ICE своїм пошкодженню технології розпізнавання обличчя

Це яскраво виразна демонстрація того, як нібито нейтральні алгоритми можуть викликати расистську поведінку, як ви думаєте. Оскільки набори навчальних даних для розпізнавання обличчя переважно білі та чоловічі (один популярний набір - це більше, ніж 75 відсотків чоловіків та більше 80 відсотків білих), система вивчає лише білі, чоловічі обличчя. Оскільки він не може читати обличчя, яке не є білим і чоловічим, його показники помилок значно вище, коли вони застосовуються до когось іншого. Оскільки ця інформація не розкривається або не виявляється, коли правоохоронні органи застосовують ці системи - і Recognition вже використовується правоохоронними органами по всій країні, - у вас є нібито нейтральний алгоритм, що робить абсолютно расистські рішення через те, що він навчений визнавати білі обличчя добре і чорні обличчя погано. І хоча немає абсолютно ніяких доказів того, що Амазонки це навмисно робили, повідомте це тим, хто був заарештований, бо комп'ютер правоохоронних органів каже, що вони були на місці злочину, в якому вони були, фактично, ніде поблизу.

Amazon намагалася продати ICE своїм пошкодженню технології розпізнавання обличчя

Окремо від цього, колишні чиновники ICE повідомили Daily Beast, що є хороші шанси, що система буде використана ERO, навіть якщо така політика вимагає спеціальних обставин для ICE захоплення людей у ​​"чутливих" місцях, таких як лікарні, церкви та школи . Насправді кількість примушувань на таких місцях помітно зросла за останні роки. Співробітники компанії Amazon протестували проти можливого продажу Recognition для правоохоронних органів, як з питань прав людини, так і з технічних проблем, пов'язаних із функціонуванням продукту та його здатністю виконувати завдання, які компанія стверджує у своїх маркетингових матеріалах.

Неточне програмне забезпечення для розпізнавання обличчя, яке правильно ідентифікує білих людей, але неправильно звинувачує людей у ​​кольорі злочинів, яких вони не вчинили, це расистське програмне забезпечення. Це чесно відчуваєш себе дещо дивним, щоб писати це таким чином, але це буде невблаганний вплив на використання будь-якого такого продукту. Люди легкої шкіри будуть точно визначені як особа, яка представляє інтерес (або не зацікавлена) у злочинах, тоді як люди темнішої шкіри не будуть. Той факт, що Amazon готовий почати продаж цього продукту правоохоронним органам, без попереднього забезпечення її точності, говорить про абсолютно нічого хорошого щодо пріоритетів компанії або про свою відданість забезпеченню того, щоб її продукти не використовувались для тероризування законних громадян будь-якого статі чи етнічної приналежності.

До тих пір, поки Amazon (або будь-який інший постачальник) не зможе розгортати технологію розпізнавання обличчя з мінімальною точністю 99 відсотків при випробуванні на осіб з усіх кольорів, форм, розмірів, статей та фізичного опису, у тому числі в складних сценаріях аналізу, вона не має комерційно продаються як інструмент для правоохоронних органів. Це буквально тип інструменту, який може бути використаний для обгрунтування ногою у двері підозрюваного як частина бездіяльного нальоту і припинення загибелі невинної людини. Ставки високі. Вимоги до розгортання також повинні бути надзвичайно високими.