Google работает с Пентагоном для создания проекта Maven, AI для беспилотных летательных аппаратов

Google работает с Пентагоном для создания проекта Maven, AI для беспилотных летательных аппаратов

В новом докладе говорится, что Google помогает Пентагону разрабатывать искусственный интеллект для анализа данных о несудимости и идентификации объектов внутри него - несмотря на публичную озабоченность генерального директора Google Эрика Шмидта в связи с партнерством с правительством по таким вопросам, а также разрывы между сотрудниками Google по поводу того, должна ли компания есть какая-то часть таких усилий.

Шмидт ранее был осторожен в отношении сотрудничества с военными, заявив: «В техническом сообществе есть общая проблема, так или иначе военно-промышленный комплекс, использующий свои материалы, чтобы неправильно убивать людей», - сообщает Гизмодо. Что бы ни беспокоило Шмидта, было явно недостаточно, чтобы отговорить его от участия в некоторых расходах на ИИ в министерстве обороны (Wall Street Journal сообщил ранее на этой неделе, что расходы на ИИ на DoD превысили 7,4 млрд. Долл. США в 2017 году).

Облачные части TPU от Google предназначены для ускорения рабочих нагрузок TensorFlow, но неясно, обрабатывает ли компания рабочие нагрузки Project Maven.
Облачные части TPU от Google предназначены для ускорения рабочих нагрузок TensorFlow, но неясно, обрабатывает ли компания рабочие нагрузки Project Maven.

Что касается Пентагона, это не принципиально отличается от того, что хотят Facebook, Google, Microsoft и еще сто других компаний. Пользователи создают и загружают огромное количество данных. Корпорации хотят проанализировать эти данные для более эффективного отслеживания и монетизации пользователей. Поскольку ни один набор человеческих мониторов не может отслеживать, маркировать и анализировать ориентиры, человеческие лица и другие объекты или события, попадающие на камеру, так же быстро, как появляются новые данные, Силиконовая долина фокусируется на лазерах на построении алгоритмов, которые могут обрабатывать пресловутые пожарный шланг. Пентагон хотел использовать некоторые возможности для себя и запустил новую инициативу по ее разработке, Project Maven, в прошлом году.

Есть уже много проблем вокруг монетизации пользователей, конфиденциальности конечных пользователей и влияния алгоритмического смещения на постоянной основе. Эти проблемы значительно увеличиваются, когда мы рассматриваем влияние неправильного анализа ИИ на боевые действия или миссию разведки. Очевидно, что человеческий анализ по-прежнему будет критическим компонентом любого разумного интеллекта, но, будучи сказанным, что ИИ определил объект, похожий на X или Y, может легко смещать аналитика разведки. Как мы уже говорили, люди склонны рассматривать компьютеры как более надежные, чем люди, и не меньше. В некоторых областях эта зависимость от интеллектуальных возможностей машины оправдана. В других, не так много.

Gizmodo отмечает, что, несмотря на обеспокоенность сотрудников, официальное сообщение Google состоит в том, что это обычное дело. Пресс-секретарь компании заявил:

Мы давно работаем с правительственными агентствами для предоставления технологических решений. Этот конкретный проект является пилотным с Министерством обороны, чтобы предоставить API TensorFlow с открытым исходным кодом, которые могут помочь в распознавании объектов по неклассифицированным данным », - сказал представитель пресс-службы. «Технология маркирует изображения для человеческого обзора и предназначена только для неагрессивных применений. Военное использование машинного обучения, естественно, вызывает серьезные проблемы. Мы активно обсуждаем эту важную тему как внутри страны, так и с другими, поскольку мы продолжаем разрабатывать политику и гарантии вокруг разработки и использования наших технологий машинного обучения.

По сообщениям, военные установили агрессивный график работы проекта Maven с решениями и запуском в течение шести месяцев после начала и развертывания на Ближнем Востоке в декабре прошлого года. Развертывание Maven (хотя и не усилия Google в его разработке) обсуждалось другими источниками, похоже, подтверждая эту часть истории.

Использование ИИ в войне было неизбежным, равно как и заинтересованность правительства в технологии, но даже что-то столь же доброкачественное, как объектная классификация, можно было легко злоупотреблять - и это предполагает, что рассматриваемые алгоритмы всегда правы. Мы не можем говорить о том, используется ли проект Maven таким образом, который соответствует его возможностям или каковы критерии оценки производительности, и поэтому не может делать никаких выводов относительно самой программы, но ее существование действительно вызывает вопросы о как IP развивается для приложений с низкими ставками, будет выполняться, когда ставки намного, намного выше.

Читать далее

На этой неделе в космосе: Maven Back Online, настойчивость настойчиво, и звезды выравниваются
На этой неделе в космосе: Maven Back Online, настойчивость настойчиво, и звезды выравниваются

Привет, ребята, и добро пожаловать на ваш пятничный брифинг на Space News Great и Small. Maven вернулся в Интернет, НАСА выбрало новых поставщиков Spaceuit, и в конце этого месяца будет выравнивание с пятью планетами.

GM Станции Шевроле Болты в Остине для Maven Ridesharing
GM Станции Шевроле Болты в Остине для Maven Ridesharing

Остин, город, который беспокоил Убер и Лейф, два года назад, теперь приветствует EV в Chevrolet Bolts, нацеленные на гигантскую экономику.

Сотрудники Google сотрудничают над проектом сотрудничества Maven Pentagon
Сотрудники Google сотрудничают над проектом сотрудничества Maven Pentagon

Сотрудники Google более чем немного обеспокоены сотрудничеством компании с Министерством обороны на проекте Maven, и многие из них призвали Сундар Пичай полностью отказаться от него.

Google завершит проект «Проект Maven» Pentagon Drone Contract
Google завершит проект «Проект Maven» Pentagon Drone Contract

В пятницу компания сообщила сотрудникам, что будет склоняться к давлению и не возобновит контракт на «Проект Maven», когда он истечет в следующем году.