Генеральный директор Microsoft: продажа HoloLens военным является «принципиальным решением»

На прошлой неделе сотрудники Microsoft направили письмо протеста своей собственной компании, в котором утверждается, что Microsoft занималась спекуляцией на войне, когда подписала соглашение с военными США о предоставлении технологии HoloLens солдатам на местах. Хотя тесное сотрудничество между американскими военными и Microsoft не является чем-то новым, HoloLens будет напрямую включен и использован в боевых сценариях. Когда американские военные объявили о сделке, они заявили, что устройство предназначено для «увеличения летальности за счет повышения способности обнаруживать, определять и принимать участие в нападении противника». Армия называет эту систему IVAS, для Integrated Visual Augmentation System.

Похоже, это первый случай, когда Microsoft перешла от разработки продуктов, используемых военными, к разработке продуктов, которые можно напрямую использовать для уничтожения. В интервью CNN Business генеральный директор Microsoft Сатья Наделла отверг эту проблему, заявив:

Мы приняли принципиальное решение: мы не собираемся отказывать в технологиях институтам, которые мы выбрали в демократических государствах для защиты свобод, которыми мы наслаждаемся. Мы были очень прозрачны в отношении этого решения, и мы продолжим этот диалог.

Более 250 сотрудников, подписавших письмо, не согласны с такой характеристикой процесса. В письме говорится:

Хотя существует процесс проверки этики в AI, AETHER, он непрозрачен для работников Microsoft и явно недостаточно надежен, чтобы предотвратить разработку оружия, как демонстрирует контракт IVAS. Без такой политики Microsoft не сможет проинформировать своих инженеров о намерениях программного обеспечения, которое они создают ...

Предложение Брэда Смита о том, что работникам, заинтересованным в работе над неэтичными проектами «будет разрешено переходить на другую работу в компании», игнорирует проблему, заключающуюся в том, что работники должным образом не информированы об использовании их работы. Есть много инженеров, которые внесли свой вклад в HoloLens до того, как этот контракт существовал, полагая, что он будет использоваться, чтобы помочь архитекторам и инженерам строить здания и автомобили, чтобы помочь людям научиться выполнять операции или играть на пианино, раздвигать границы игр ... Эти инженеры теперь потеряли способность принимать решения о том, над чем они работают, вместо этого они оказались замешанными в военных спекулянтах.

«Эфир» в данном контексте относится к группе экспертов, созданной Microsoft для оценки этики в области ИИ и обеспечения ее «ответственного использования».

Вопрос этики

Я признаю, что сочувствую этическим аргументам, которые здесь приводят программисты и инженеры Microsoft. Многие из задач, связанных с ИТ, выполняемых военными, концептуально не отличаются от тех, которые вы найдете в коммерческом или даже потребительском контексте. Радиосигналы должны проникать в здания. Сетевые компьютеры должны эффективно общаться. Конкретные потребности и требования различаются, но основополагающие принципы во многом совпадают.

Но есть разница между созданием продукта, который будут использовать люди, с которым вы не согласны, и созданием продукта для достижения цели, которую вы ненавидите. Многие из ученых, которые работали над Манхэттенским проектом, включая Дж. Роберта Оппенгеймера, стали активными участниками движения за нераспространение ядерного оружия именно потому, что их беспокоили этические последствия их собственного участия в разработке атомного оружия и фундаментальная угроза угасание ядерной войны. Через два года после того, как бомба упала на Хиросиму и Нагасаки, Оппенгеймер заявил:

Несмотря на дальновидность и дальновидность наших глав государств военного времени, физики почувствовали особую близкую ответственность за предложение, поддержку и, в конечном итоге, в значительной степени достижение реализации атомного оружия. Мы также не можем забывать, что это оружие, так как оно использовалось на самом деле, так беспощадно драматизировало бесчеловечность и зло современной войны. В каком-то грубом смысле, который никакая вульгарность, юмор, преувеличение не могут полностью погасить, физики познали грех; и это знание, которое они не могут потерять.

Можно спорить о том, в какой степени ученые, инженеры и изобретатели должны чувствовать ответственность за использование оружия или технологий, которые они создают. То, что многие из них чувствовали / чувствуют некоторую ответственность, не подвергается сомнению.

Ответ Наделлы своим сотрудникам отражает либо неспособность рассмотреть эти вопросы, либо их оскорбительное увольнение. Повторим: «Мы приняли принципиальное решение, что не будем отказывать в технологиях институтам, которые мы выбрали в демократических государствах для защиты свобод, которыми мы наслаждаемся».

Во-первых, ответ Наделлы вводит в заблуждение идею «утаивания» технологий у правительства и утаивания их у военных. Военные не являются избранным институтом в любом смысле этого слова. Кроме того, одной из главных критических замечаний Конгресса в течение 20-го века, во времена как демократического, так и республиканского руководства, было его нежелание вмешиваться в различные военные походы и действия, санкционированные Президентом. Реформы после вьетнамской войны, направленные на то, чтобы обуздать эту тенденцию так называемого «имперского президентства», в основном не смогли этого сделать. Между тем, провалы разведывательных служб, использовавшиеся для оправдания всей войны в Ираке, должны служить поводом для сомнений в любом ручном обращении к предположительно совершенным способностям принятия решений демократически избранными правительствами.

Ответ Наделлы предполагает, что все такие действия всегда оправданы и что цель оправдывает средства. Фактические связи между различными военными действиями США за последние 70 лет и степенью защиты, которую они предлагали «свободам, которыми мы наслаждаемся», являются гораздо более нюансированными, конкретными и специфическими для рассматриваемых конфликтов.

Ответ Наделлы также предполагает определенную степень единого соглашения, которого просто нет среди электората США или, я полагаю, среди сотрудников Microsoft. Его заявление подразумевает, что лидеры всегда принимают правильные решения и что любые военные действия могут быть оправданы призывом к «свободам, которыми мы пользуемся», просто потому, что указанные политические лидеры были избраны. Нет никаких признаков того, что компания или ее генеральный директор даже пытались разобраться с этическими последствиями создания чего-либо только для того, чтобы увидеть, как ваше творение использовалось для того, чтобы убивать или причинять вред людям способом, который вы никогда не намеревались. Это не принципиальное решение. Это несомненное предположение. Это неоспоримое предположение, которое кто-то может сделать, если вы начнете с мысли, что армия, платящая $ 479 млн. За HoloLens, является удобным моральным благом и оттуда работает задом наперед.

По крайней мере, 250 сотрудников Microsoft не считают, что компания намерена продавать эту технологию напрямую военным. Это не очень много, по сравнению с размером всей фирмы. Это может быть значительная доля людей, работающих над HoloLens. Люди имеют право принимать решение о том, каким проектам они хотят посвятить свою жизнь созданию. Не каждый ученый-ядерщик присоединился к движению нераспространения. Я уверен, что есть сотрудники HoloLens, у которых нет проблем с идеей, что их работа может быть использована для убийства людей. Те, кого это волнует, имеют полное право расстраиваться из-за того, как их работа используется.

Несмотря на то, что мы не можем говорить о том, как HoloLens были переданы внутри компании, ничто в публичных руководствах Microsoft и демонстрациях HoloLens на 2015-2016 годы не отразило цель использовать его для непосредственного улучшения боевой летальности. Контракт DoD вызвал у многих удивление, и мы отметили эту проблему в нашем первоначальном освещении объявления. Разрешение людям переходить к новым проектам после того, как вы решили продать их работу военным для улучшения летальности, никак не влияет на этическое бремя, которое они могут испытывать, внося свой вклад в такой проект.

Читать далее

Генеральный директор Google обещает расследовать уход ведущего исследователя ИИ

Генеральный директор Google Сундар Пичай выразил фурор, связанный с увольнением специалиста по этике ИИ доктора Тимнита Гебру, но его служебная записка может не сильно улучшить ситуацию.

Генеральный директор Intel Боб Свон назначил Пэта Гелсингера на руководящую должность

Intel заменяет Боба Свона на посту генерального директора, снова приглашая в лоно старое знакомое лицо. Пэт Гелсингер, давний ветеран Intel, вернется, чтобы занять руководящую должность.

Генеральный директор Intel: eliance на Asia для производства полупроводников не «вкусно»

Этот толчок для более сбалансированной глобальной цепочки поставок является частью расширения Intel в литейный бизнес в клиенте, и компания явно надеется, что в цепочке цепочки поставок восприятия - это результат слишком много потенциала в Азиатско-Тихоокеанском регионе.

Генеральный директор Intel отправляется в Европу, чтобы разговаривать на литейных литейных литейных лите

Генеральный директор Intel Pat Gelsinger отправится в Европу на следующей неделе, чтобы встретиться с чиновниками ЕС о строительстве дополнительных фабриков в Европе. Это может быть частью усилий ЕС, чтобы предпринять гораздо большую долю мирового полупроводникового производства к 2030 году.