AI - це покарання драйверів доставки Amazon для помилок, які вони не роблять

AI - це покарання драйверів доставки Amazon для помилок, які вони не роблять

Занепокоєння щодо штучного інтелекту та її впливу на роботу не є новими, але оскільки більше компаній розгортають ці рішення, які ми бачимо, вирішили в процесі. Одним з точки зору, що багато з цих бесідів займаються як належне, полягає в тому, що інструмент, що працюють на AI-powered. Що станеться, якщо вони цього не роблять?

Пандемія зайняла вибух у продажах напівпровідників та значним зростанням кількості працівників, які зберігаються під наглядом їх роботодавцями. У деяких випадках люди не просто спостерігають - вони оцінюються. Це не може бути проблемою, якщо інструменти AI були достатньо надійними, щоб зробити роботу, але всі наявні докази показують, що вони дуже не є.

Нова історія на материнській платі подробить результати останнього натискання Amazon, щоб запровадити технологію AI на робочому місці. У лютому минулого року Amazon почав встановлювати камери з камери флоту Netradyne, з передбачуваною метою збереження водіїв. Веб-сайт Netradyne підкреслює технологію компанії саме ці умови, підкреслюючи, що він може зберігати водії, спрямовані на дорогу. Система відстежує, чи водії підтримують належну наступну відстань, підпорядковуйте знаки та вуличні вогні, і зберігайте свою увагу на дорозі.

Важко сперечатися з ідеєю, що люди, які їдуть на життя, повинні бути необхідними для цього. Але, за словами водіїв, фактично доставляють пакети Amazon, система є кошмаром. Проблема не те, що люди змушені дотримуватися закону. Проблема полягає в тому, що система Netradyne не дуже гарна при вирішенні, коли водій є або не порушує закон, а Amazon пропонує жодного способу для водіїв для конкурсних подій.

"Я був" dinged "для наступного занадто близько, коли хтось відрізає мене, - сказав один водій материнської плати. "Якщо я дивлюся в мої дзеркала, щоб переконатися, що я в безпеці змінити смуги, це йти мене за відволікання, тому що моє обличчя повернеться, щоб подивитися на моє дзеркало. Я особисто не відчував себе ще безпечним з камерою, спостерігаючи за моїм кожним кроком. "

Інший драйвер зазначив, що система Netradyne AI має основну проблему з помилковими зупинками. Очевидно, система має погану звичку відзначаючи знаки врожайності як знаки зупинки (і покарання драйверів, щоб не зупинитись), одночасно покарання водіїв, якщо вони зупиняються на зупинці, а потім повільно потягнути вперед, щоб подивитися навколо сліпої кривої. Кожен, хто загнав протягом будь-якого часу, усвідомлює, що квартали та підприємства не завжди підтримують належні лінії зору. Це може бути небезпечним для прискорення від зупинки, без перевірки навколо щіткового затьмареного кута.

"Найбільш хибними позитивами, які ми отримуємо, є зупинками порушень", - сказав він. "Або ми зупиняємося після стоп-знаку, щоб ми могли бачити навколо куща або дерева, і це за це, або він ловить знаки врожайності як знаки зупинки. Кілька разів ми знаходимося в країні на брудній дорозі, де немає знака зупинки, але камеру прапорів знак зупинки. "

Людський водій, який спостерігає за іншою людиною, обережно, обережно сканує ситуацію для контекстного ключа, чому це відбувається. AI Netradyne є нездатним для такого виду оцінки. Це лише "бачить", чи працює автомобіль відповідно до власної негнучкої логіки.

Представники Amazon наполягають на тому, що система Netradyne отримала позитивні результати, а нещасні випадки знизилися на 48 відсотків, зупинка та порушення сигналу на 77 відсотках, водіння без ременя, зменшившись на 60 відсотків, до 65 відсотків на 50 відсотків, а відволікаючи водіння зменшилося на 75 відсотків . Це вражаючі фігури, щоб бути впевнені. Але вони насправді не розповідають нам, і Amazon не відома своєю чесності при роботі з пресою.

Я був людиною, яка знайшла мочитися у пляшці. Довіряй мені, це сталося. https://t.co/u76uldrwso

- Джеймс Ливаворт (@j_bloodworth) 25 березня 2021 року

Для початківців ми не знаємо, як була зібрана ця інформація до встановлення системи Netradyne, тому ми не знаємо, як порівнювати раніше-після фігур. Зменшення 77 відсотків у відмінному знаку та порушення сигналу можуть відображати той факт, що драйвери доставки Amazon є більш старанними, або може вказати, що водії уникають помилкових позитивних знаків, поводяться менш безпечним способом, це також рідше викликати ding на їхній запис.

Частина проблеми полягає в тому, що ці показники використовуються для визначення того, наскільки платні партнери доставки Amazon. Занадто багато подій Netradyne можуть зруйнувати оцінку компанії, зменшуючи, скільки це заробляє від Amazon цього місяця. Там, ймовірно, дійсності до концепції, що це створює стимул для компанії, щоб наймати хороших водіїв, але здатність таких показників досягти своїх цілей, передбачається, що вони правильно вимірюються в першу чергу.

Amazon стискає компанії, щоб зробити зміни до безпеки, одночасно натискаючи компанії, щоб прийняти графіки доставки, щоб покарання, деякі водії несуть пластикові пляшки, замість спроби відвідати туалет. Раніше цього року дві компанії Oregon ефективно закриваються, а не продовжують перевезення пакетів для Amazon. Дослідницькі доповіді неодноразово виявили, що складська культура Amazon є жорстоко важким робочим середовищем, тому не дивно, що компанія, яка натискає таку ж модель назовні у своїй бізнес-моделі.

Різні компанії доставки вважають, що Амазонка порушив ці практики, щоб уникнути їх платити. Amazon наполягає, що він намагається захистити безпеку. За словами материнської плати, різні компанії розповідають водіям, як обійти ці системи відстеження, тому що повертаючи їх, означає передачу Amazon виправданням, щоб не платити. Чому не водіїв носять ремені безпеки? Тому що Amazon наполягає на розкладі доставки настільки вимогливими, водіями кажуть, що вони не мають часу, щоб носити їх. Незалежно від того, що вірить на наміри Амазонки, очевидно, що його методи мають ненавмисні наслідки, які працюють проти мети вдосконалення записів про безпеку водія.

Можливо, найбільш божевільним аспектом всієї ситуації полягає в тому, що немає значущого апеляційного процесу. Хоча компанії доставки можуть, мабуть, можуть подавати відгуки квитків на конкретні події, мережева система Netradyne ґрунтується з сотні подій на тиждень, а Amazon майже ніколи не перевертає попереднє рішення. Компанії в основному не намагаються оскаржувати ці рішення, оскільки заперечуючи їх майже ніколи не працює.

Така проблема повинна дзвонити більше тривожних дзвонів, ніж це, ймовірно, буде. Для всього хорошого AI може зробити у правильних обставинах, інструменти, такі як Netradyne, не готові до розгортання, якщо вони створюють помилкові позитивні у цьому виду курсу. Якщо Netradyne не може запропонувати продукт, який правильно виявляє поведінку водія за будь-яких обставин, він не має жодного бізнесу, який претендує на інше.

Можливо, що Amazon дійсно бачив різновиду поліпшення безпеки. Система безпеки, чиї неналежні системи виявлення викликають драйвери, щоб діяти в небезпечному порядку, є чітко менш безпечним, ніж це не так. Це все добре і добре стверджувати, що переваги являють собою чисте покращення, але це не має ніякого доброму для людей, які несправедливо покарають, або навіть надавали безробітним, оскільки випадковий фрагмент програмного забезпечення вирішив, що вони є проблематичним водієм з нульовим людським наглядом або переглядом.