AI заказывает драйверы доставки Amazon для ошибок, которые они не делают

Озабоченность по поводу искусственного интеллекта и его влияния на работу не нова, но по мере того, как все больше компаний развертывают эти решения, которые мы видим, что увидим, как в процессе. Одна точка, которую многие из этих разговоров требуют как должное, состоит в том, что инструменты AI-инструменты работают. Что произойдет, если нет?

Пандемия подпитывает взрыв в полупроводниковых продажах и значительному росту числа сотрудников, которые держатся под наблюдением их работодателями. В некоторых случаях люди не просто наблюдаются - они оцениваются. Это может не быть проблемой, если в вопросе инструментов AI достаточно прочнее выполнять работу, но все имеющиеся доказательства предполагают, что они очень нет.

Новая история на материнской плате детализирует результаты последнего нажатия Amazon, чтобы ввести технологию AI на рабочем месте. В феврале прошлого года Amazon начал устанавливать камеры из компанией Fleet Camera Netradyne, с предполагаемой целью сохранения драйверов. Веб-сайт Netradyne выделяет технологию компании в именно в этих условиях, подчеркивая, что она может сосредоточиться водителями на дороге. Система отслеживает, будут ли драйверы поддержаны надлежащим расстоянием, подчиняйтесь стоп-знакам и уличных фонаре и поддерживать свое внимание на дороге.

Трудно спорить с идеей, что люди, которые ездят на жизнь, должны потребоваться сделать эти вещи. Но, по словам водителей, фактически доставляющих пакеты Amazon, система - это кошмар. Проблема не в том, что люди вынуждены следовать закону. Проблема в том, что система Netradyne не очень хороша при выборе принятия решения водителя или не нарушает закон, и Amazon не предлагает никаких методов для водителей для конкурсных событий.

«Я был« рассчитан »для следующего слишком близко, когда кто-то отрежет меня», - сказал один водитель материнской платы. «Если я посмотрю в свои зеркала, чтобы убедиться, что я безопасен, чтобы изменить полосы, он меняет меня за отвлечение, потому что мое лицо повернулось, чтобы посмотреть в мое зеркало. Я лично не чувствовал себя более безопасным с камерой, наблюдая за моим каждым ходом ».

Другой водитель указал, что система Netradyne AI имеет серьезную проблему с ложными остановками. По-видимому, система имеет плохую привычку промежуточного количества выходов доходности как стоп-сигнала (и наказание драйверов, чтобы не остановиться), одновременно наказание водителей, если они останавливаются на стоп-знаке, а затем медленно вытащите вперед, чтобы посмотреть вокруг слепой кривой. Любой, кто привел к любой продолжительности времени, знает, что окрестности и предприятия не всегда поддерживают правильные линии зрения. Это может быть опасно для ускорения вдали от стоп-сигнала без проверки вокруг затененного кисти угла.

«Самые ложные позитивы, которые мы получаем, - это прекратить подписывать нарушения», - сказал он. «Либо мы останавливаемся после знака остановки, чтобы мы могли видеть вокруг куста или дерева, и он наносит нам для этого, или он уловит их, или он уловит указатели доходности как стоп-сигналы. Несколько раз мы были в стране на грунтовой дороге, где нет стоп-сигнала, но камера флагит знак остановки ».

Человеческий водитель, который наблюдает за другим человеком, принимая пересечение осторожно, будет регрегно сканировать ситуацию для контекстных подсказков о том, почему это происходит. АИ НЕТРАДИНА неспособна такого рода оценки. Он только «видит», работает ли автомобиль в соответствии со своей негибкой логикой.

Пресс-концеппы Amazon настаивают на том, что система Netradyne дала положительные результаты, причем несчастные случаи на 48 процентов, стоп-сигнал и нарушения сигналов на 77 процентов, вождение без ремень безопасности, снизились на 60 процентов, последующие на уровне дистанции снизились на 50 процентов, а отвлеченное вождение снизилось на 75 процентов. Отказ Это впечатляющие цифры, чтобы быть уверенным. Но на самом деле они на самом деле не говорят нам, а Amazon не известен своей честностью при работе с прессой.

Я был человеком, который нашел мочу в бутылке. Поверьте мне, это случилось. https://t.co/u76uldrwso

- Джеймс Кровавый (@J_BLoodworth) 25 марта 2021

Для начала мы не знаем, как эта информация была собрана до установки системы Netradyne, поэтому мы не знаем, как сравнивать ранее и после фигур. 77-процентное снижение знака остановки и нарушения сигнала может отражать тот факт, что драйверы доставки Amazon являются более усердными, или он может указывать на то, что водители избегают ложных срабатываний на стоп-знаках, повлияли на себя менее безопасным способом. Дин на их вождении.

Часть проблемы состоит в том, что эти метрики используются для определения того, сколько партнеров по доставке Amazon платят. Слишком много мероприятий Netradyne может испортить счет компании, уменьшая, насколько она зарабатывает от Amazon в этом месяце. Вероятно, что в концепции, что это создает стимул для компании, чтобы нанять хороших водителей, но способность таких метриков достичь своих целей, связана с идеей, что они правильно измеряют в первую очередь.

Amazon - это сжимание компаний, чтобы сделать изменения в области безопасности, одновременно толкая компании, чтобы принять расписание доставки, поэтому наказание, некоторые водители несут пластиковые бутылки вместо попыток посетить туалет. Ранее в этом году два Орегонские компании эффективно закрываются, а не продолжают перевозки пакетов для Amazon. Следственные отчеты неоднократно обнаружили, что складская культура Amazon - это жестоко сложная рабочая среда, поэтому неудивительно, что компания нажала ту же модель наружу в своей бизнес-модели.

Различные компании по доставке считают, что Amazon учредила эти практики, чтобы он мог не уплатить их. Amazon настаивает, что это только пытается защитить безопасность. По словам материнской платы, различные компании говорят водителям, как обойти эти системы отслеживания, потому что превращая их на средства вручения Amazon, оправданию не платить. Почему водителей не носят ремни безопасности? Поскольку Amazon настаивает на графиках доставки, поэтому водители говорят, что у них нет времени носить их. Независимо от того, что считает о намерениях Amazon, очевидно, что его методы имеют непреднамеренные последствия, которые работают против цели улучшения учетных записей водителя.

Возможно, самый удивливый аспект всей ситуации состоит в том, что нет значимого процесса апелляции. В то время как компании доставки могут по-видимому, представить билеты в обратную связь на определенные мероприятия, система Netradyne Logs сотни событий в неделю и Amazon почти никогда не опрокидывает предыдущее решение. Компании в основном не пытаются соревноваться на этих решениях, потому что оспаривая их почти никогда не работает.

Такая проблема должна звонить больше сигналов тревоги, чем наверное, будет. Для всего хорошего AI может сделать в правильных обстоятельствах, такие инструменты, как Netradyne, не готовы к развертыванию, если они генерируют ложные срабатывания по такому виду. Если Netradyne не может предложить продукт, который должным образом обнаруживает поведение водителя при любых обстоятельствах, у него нет бизнеса, требующего иначе.

Возможно, Amazon действительно видел, что благоустройство безопасности его утверждает, но повышенная безопасность не является единственной переменной, которая имеет значение здесь. Система безопасности, чьи ненадлежащие системы обнаружения вызывают драйверы, чтобы действовать небезопасно, является менее безопасным, чем один, который не делает. Все хорошо и хорошо, чтобы утверждать, что преимущества представляют собой чистое улучшение, но это не приятно для людей, которые несправедливо наказываются или даже оказываются безработными, потому что случайное программное обеспечение решило, что они были проблемными водителем с нулевым человеком или обзором.

Читать далее

RISC-V делает шаг навстречу мейнстриму с платой SiFive Dev Board и высокопроизводительным процессором

RISC V продолжает завоевывать рынок, на этот раз с более дешевой и более полнофункциональной тестовой материнской платой.

Что значит для рынка ПК, если Apple сделает самый быстрый процессор?

M1 SoC от Apple может иметь огромное влияние на рынок ПК. По прошествии 25 лет x86 может больше не быть самой производительной архитектурой ЦП, которую вы практически можете купить.

DOSBox Pure запускается, чтобы сделать классические игры проще

В наши дни есть много потрясающих игр, но на их разработку иногда уходят годы, и они могут все еще запускаться в плачевном состоянии на момент выпуска - глядя на вас, Cyberpunk 2077. Если вы хотите вернуться в более простые времена, игры В прошлые годы играть стало проще благодаря новому DOXBox Pure.

Настойчивость делает первый шаг на Марс

В конце прошлой недели Perseverance наконец-то совершила свою первую поездку на Марс, пройдя в общей сложности 21,3 фута (6,5 метра).