Смертельная самоубийственная гибель Убера: что мы знаем до сих пор

В воскресенье вечером не было вопроса - испытательного транспортного средства Uber, 2017 Volvo XC90, вождения в автономном режиме и с водителем безопасности за рулем, ударил и убил пешехода в Темпе, штат Аризона. Однако помимо этих фактов есть много размышлений о том, как это произошло, и кто или что виноват. Полному расследованию потребуется довольно много времени, но мы уже знаем намного больше, чем вчера, и можем более четко осветить факты и то, какие реальные проблемы они выделяют.

О несчастном случае

Теперь мы знаем, что 49-летняя женщина-пешеход Элейн Херцберг подталкивала велосипед, нагруженный пакетами. Она отходила от середины центра в полосы движения, довольно далеко от пешеходного перехода в 10 вечера ночью. Несколько странно, есть привлекательный путь кирпича на медиане, где она пересекла, но в паре со знаком, предупреждающим пешеходов, не использовать его.

Автомобиль находился в автономном режиме, вождение 38 миль в час в зоне 35 миль в час. По данным полиции, не кажется, что ни системы безопасности автомобиля, ни водитель безопасности не пытались затормозить - при цитировании водителя говорят, что столкновение было «как вспышка» с их «первым предупреждением о столкновении [звуке] столкновение ".

Как всегда, есть основания скептически относиться к утверждениям любого, кто участвует в аварии. Но начальник полиции Tempe Сильвия Мойр предварительно подготовила резервную копию взгляда водителя на события после просмотра видео, снятого передней камерой автомобиля. Она рассказала хронику Сан-Франциско, «очень ясно, что было бы трудно избежать этого столкновения в любом режиме (автономном или управляемом человеком), исходя из того, как она вышла из тени прямо в проезжую часть».

Мойр продолжал размышлять, что «... предположительно, похоже, что Убер, вероятно, не будет виноват в этом несчастном случае ...» Однако она хеджировала дополнительным комментарием: «Я не исключаю возможности предъявить обвинения против -up) в машине «Убер». На следующий день Департамент полиции Темпе несколько повторил эти заявления, уточнив, что их роль не определяет недостатки в автомобильных авариях. К сожалению, это оставляет вещи такими же ясными, как грязь. Таким образом, все, что мы можем сделать по этому поводу, - это ожидание публичного выпуска видео с камер автомобиля и результатов расследования NTSB.

Насколько эффективны драйверы безопасности?

На испытательном автомобиле также есть вторая камера, в которой записывается водитель. Одним из наиболее важных уроков об эффективности драйверов безопасности может быть просмотр синхронизированного по времени видео с передней камеры и камеры, обращенной к водителю, чтобы посмотреть, как это событие развернулось с его точки зрения и как она ответила. Однако, как оказалось, я уверен, что это вызовет дополнительные вопросы о подготовке водителя безопасности и бдительности после длительных периодов бездействия. С точки зрения устранения возможных причин, полиция Темпе заявила, что водитель не обнаружил признаков ухудшения.

Хотя это может не иметь ничего общего с несчастным случаем, это не поможет делу Убера, что у 44-летнего водителя безопасности Рафаэлы Васкес есть предварительное обвинение в совершении уголовного преступления. Убер был в беде, прежде чем за незаконное использование уголовников в качестве водителей в Колорадо, хотя неясно, были ли нарушены какие-либо правила в этом случае.

Это не проблема троллейбуса

Очень популярно поднимать гипотетическую «проблему троллейбуса» при обсуждении автомобилей с самообслуживанием. Короче говоря, он задает вопрос, будет ли водитель - человек или компьютер - или должен пахать в толпу или сознательно сворачиваться за счет убийства кого-то другого. Перефразируя недавнее объявление «Это не то, как это работает». Конечно, в конце концов у нас будут системы ИИ, которые думают на этом уровне, но не скоро. В настоящее время системы, которые управляют этими автомобилями, высаживают наши самолеты или управляют нашими поездами, намного более низки, чем это.

Являетесь ли вы человеком или самозанятым автомобилем, нет никакого способа «выиграть» проблему тележки. Вы либо убиваете толпу, либо намеренно меняете курс, чтобы убить одного человека.

Сегодняшние системы разработаны для того, чтобы реагировать на окружающую среду и избегать попадания вещей. Лучший случай, они «знают» достаточно, чтобы ударить мусорную корзину вместо пешехода, но они не учитывают пассажиров в каждом транспортном средстве или не взвешивают этические соображения. В этом случае Volvo была оснащена одной из самых современных и наиболее распространенных систем безопасности, включая автоматическое экстренное торможение. Очень важно понять, почему в этом случае аварийные системы, по-видимому, не тормозили. Независимо от того, была ли проблема с датчиками, логикой или временем отклика, необходимым для активации тормозов, очевидно, что есть возможности для улучшения системы. Надеемся, что соответствующие данные будут опубликованы в интересах всех в отрасли.

Какой драйвер мы хотим, чтобы наши ИИ были?

Столкнувшись с подобной ситуацией, машины Уэймо часто останавливаются и ждут, когда велосипедист примет решение о том, переходить ли они перед ними - даже когда велосипедист скрестил руки на груди. Мой коллега Билл Ховард сообщает об аналогичном поведении от самоходных автомобилей, которые он продемонстрировал. Это может быть немного глупо по стандартам «водитель-водитель», и это раздражает автомобили, выстроившиеся за остановленным транспортным средством, но это хороший способ убедиться, что ничего плохого не происходит. В подобных ситуациях водители-водители, безусловно, рискуют, и во многих случаях приводят к несчастным случаям. Мы принимаем это как часть рисков, связанных с дорогами и автомобилями.

Но когда это компьютер с управляемым компьютером, мы ожидаем, что он будет идеальным. Таким образом, это либо будет похоже на текущие автомобили Waymo, либо забивать дороги, будучи чрезмерно осторожными, рискует быть вовлеченным в несчастные случаи или определить новый подход к безопасному вождению. Реально, мы должны решить, как общество, сколько риска мы готовы нести. Если для компьютеров с управляемым компьютером просто безопаснее в среднем, чем автомобили, управляемые человеком, мы сможем добиться успеха во многих условиях. В конце концов, компьютеры не устают, не пьют и не смотрят на свои мобильные телефоны, и, как правило, имеют возможность видеть в темноте. Тем не менее, уличные самозаводящиеся демонстрации на CES пришлось отменить в тот день, когда шел сильный дождь, поэтому все еще существует множество ограничений.

Если мы ожидаем, что самоходные автомобили будут идеальными, мы будем долго ждать. Как минимум, они должны будут уметь видеть и интерпретировать тело языком и лицевыми жестами пешеходов, велосипедистов и других автомобилистов. Друзья в автономной автомобильной промышленности утверждают, что полностью автономные транспортные средства должны быть в 10 раз безопаснее, чем автомобили, управляемые людьми, чтобы быть успешными и широко разрешены на дорогах общего пользования.

На пути к более разумным правилам

Уже есть некоторые правила о том, что компания должна делать для полевых автомобилей с водителем безопасности, а в некоторых случаях, как и в других местах в штате Аризона, - это набор правил для транспортных средств без какого-либо человеческого водителя. Но эти правила были составлены без особых данных, по крайней мере со стороны регуляторов. По мере того как мы получаем больше опыта с тем, что может пойти не так, мы, надеюсь, будем лучше и лучше ориентированы, правила, определяющие требования к автомобильным испытаниям с драйверами, и, в конечном счете, без драйверов. Например, в рамках соблазнения автономных исследований и испытаний транспортных средств в штате Аризона имеет особенно удобный для продавцов набор правил, которые не требуют публичного раскрытия информации об отключении (когда человек должен взять на себя транспортное средство). В отличие от этого, Калифорния требует от них отчета ежегодно.

Однако выясняется, что эта авария ставит дополнительную проверку на пути разработки и тестирования самоходных транспортных средств

Вождение - это больше, чем инженерия

Чем больше я изучаю сложности построения автономного транспортного средства, тем больше я поражаюсь, что мы все еще не умираем на дорогах. Между плохим зрением, медленными рефлексами, негостеприимными условиями и множеством отвлекающих факторов на бумаге кажется, что автомобили, приводимые в движение человеком, должны много входить в друг друга. Дело не в том, что у нас не так много несчастных случаев, но в целом на 1 100 миллионов миль приходится примерно 1 фатальность. Тот факт, что мы не ругаемся чаще, - это дань уважения некоторым аспектам человеческого интеллекта, которые мы не очень хорошо понимаем и еще не запрограммированы на автономные транспортные средства. Столь же важно, что многие из наших дорог были бы непригодными, если бы каждый водитель придерживался буквы каждого закона. Он будет принимать более чем просто лучшие алгоритмы машинного обучения и датчики, прежде чем у нас будет эффективная система, позволяющая самозахватам и автомобилям, управляемым людьми, делиться дорогами друг с другом, а также пешеходами и велосипедистами.