Сотрудники Google сотрудничают над проектом сотрудничества Maven Pentagon
В прошлом месяце мы рассказали о том, что Google и Пентагон сотрудничали в разработке искусственного интеллекта для анализа видеороликов. Сообщалось, что сотрудники Google были крайне недовольны этим, и недавнее открытое письмо, отправленное генеральному директору компании Сундар Пичай, делает это с самого начала, открывая:
Мы считаем, что Google не должен быть в состоянии войны. Поэтому мы просим, чтобы проект Maven был отменен, и что Google разрабатывает, публикует и обеспечивает четкую политику, в которой говорится, что ни Google, ни ее подрядчики никогда не будут создавать технологию ведения войны.
В письме отмечается, что, хотя Google пообещал, что его работа не будет использоваться для управления беспилотными летательными аппаратами или запуском оружия, рассматриваемая технология может использоваться для других военных целей. Затем он заявляет, что быть замеченным в качестве союзника американских военных в этих вопросах может нанести непоправимый урон Google усилиям по привлечению новых талантов, объединив их с такими компаниями, как Палантир, Рейтеон и General Dynamics.
Сотрудники Google заявляют: «Мы не можем передавать моральную ответственность наших технологий третьим лицам». Авторы отвергают идею о том, что ситуация разрешена просто потому, что компании, такие как Amazon и Microsoft, участвуют. В письме, подписанном более чем 3100 человек, говорится, что уникальная позиция Google требует, чтобы она придерживалась другого, более высокого стандарта.
Формальный ответ Google, напротив, - это «с рук»: «Нет, серьезно, все в порядке». Мы цитируем:
Maven - хорошо известный проект DoD, и Google работает над его частью, специально предназначенной для не наступательных целей, и используя программное обеспечение для распознавания объектов с открытым исходным кодом, доступное любому клиенту Google Cloud. Модели основаны только на неклассифицированных данных. Эта технология используется для обозначения изображений для человеческого обзора и предназначена для спасения жизней и спасения людей от необходимости выполнять очень утомительную работу.
Любое военное использование машинного обучения естественно вызывает серьезные проблемы. Мы активно участвуем во всей компании в всестороннем обсуждении этой важной темы, а также с внешними экспертами, поскольку мы продолжаем разрабатывать нашу политику вокруг разработки и использования наших технологий машинного обучения.
Ответ - это шаблонный PR-разговор и избегает участия в каких-либо существенных вопросах, заданных сотрудниками. Эти типы проблем возникли раньше, во многих разных контекстах. При всем разговоре о том, как федеральное правительство не должно заниматься сбором победителей и проигравших, о которых вы иногда слышите, факт заключается в том, что федеральное правительство покупает огромное количество, ну, вещи, от компьютеров и оргтехники до военной техники ,
Одним из самых больших изменений в федеральных закупках за последние 23 года стала декларация министра обороны США Уильяма Перри от 1994 года о том, что военные должны полагаться на COTS (Commercial Off the Shelf), когда это возможно, в отличие от оплаты за заказную технику и внутренние развитие. Дискуссия о степени, в которой это было хорошо или плохо, часто сводится к специфике данного проекта, но одно очевидно: если вы собираетесь работать с аппаратным и программным обеспечением COTS, это означает, что вы собираетесь работать с компаниями, которые развивали ваше оборудование и программное обеспечение гораздо чаще. Если ничего другого, это создает больше возможностей для размытых линий между тем, что является и не приемлемой поддержкой для данной политики или использования.
Из того, как все звучит, Google не планирует отказаться от сотрудничества с Project Maven. То, что будет означать долгосрочное, неопределенно.
Читать далее
Google завершит проект «Проект Maven» Pentagon Drone Contract
В пятницу компания сообщила сотрудникам, что будет склоняться к давлению и не возобновит контракт на «Проект Maven», когда он истечет в следующем году.