Генеральний директор корпорації Майкрософт: Продаж HoloLens для військових є «принциповим рішенням»
Минулого тижня співробітники корпорації Майкрософт надіслали протест до своєї компанії, стверджуючи, що корпорація Майкрософт брала участь у військовій спекуляції, коли підписала угоду з американськими військовими про надання технології HoloLens солдатам на місцях. Незважаючи на те, що тісна співпраця між американськими військовими та корпорацією Майкрософт не є нічим новим, HoloLens буде безпосередньо включено та використане в бойових сценаріях. Коли американська армія оголосила про угоду, вона заявила, що пристрій має на меті "підвищити летальність, підвищивши здатність виявляти, вирішувати і вступати перед ворогом". Армія називає цю систему IVAS для інтегрованої візуальної системи збільшення.
Це, здається, перший раз, коли Microsoft перейшла від розробки продуктів, які використовуються військовими для розробки продуктів, які можна безпосередньо використовувати для вбивства. У інтерв'ю CNN Business, генеральний директор Microsoft Satya Nadella звільнила цю проблему, сказавши:
Ми прийняли принципове рішення, що ми не збираємося відмовлятися від технології, яку ми обрали в демократичних державах для захисту свободи, якою ми користуємося. Ми були дуже прозорі щодо цього рішення, і ми продовжуватимемо вести цей діалог.
250 + співробітників, які підписали лист, не згодні з цією характеристикою процесу. У листі зазначено:
Хоча процес перегляду існує для етики в AI, AETHER, він непрозорий для працівників Microsoft і явно не достатньо надійний для запобігання розвитку зброї, як показує контракт IVAS. Без такої політики корпорація Майкрософт не повідомляє своїх інженерів про наміри програмного забезпечення, яке вони будують ...
Пропозиція Бред Сміта про те, що працівникам, які займаються неетичними проектами, «дозволить перейти на іншу роботу в компанії», ігнорує проблему, що працівники не є належним чином поінформовані про використання своєї роботи. Є багато інженерів, які брали участь у HoloLens до того, як цей контракт існував, вважаючи, що це буде використано для того, щоб допомогти архітекторам та інженерам будувати будівлі та автомобілі, щоб допомогти навчити людей виконувати хірургічні операції або грати на піаніно, просунути межі ігор ... Тепер інженери втратили здатність приймати рішення про те, над чим вони працюють, замість того, щоб опинитися причетними до військових донорів.
"AETHER", у цьому контексті, відноситься до групи експертів Microsoft, створених для оцінки етики в AI і для забезпечення її "відповідального використання".
Питання етики
Я визнаю, що я співчуваю з етичними аргументами, які роблять тут програмісти та інженери Microsoft. Багато з завдань, пов'язаних з ІТ, які виконуються військовими, не є концептуально відмінними від тих, які ви знайдете в комерційному або навіть споживчому контексті. Радіосигнали повинні проникати в будівлі. Мережеві комп'ютери повинні ефективно спілкуватися. Конкретні потреби та вимоги відрізняються, але основні принципи майже однакові.
Але є різниця між побудовою продукту, з яким люди, з якими ви не згодні, використовуватиме та будуватиме продукт, щоб досягти мети, яку ви ненавидите. Багато вчених, які працювали над проектом Манхеттен, у тому числі Дж. Робертом Оппенгеймером, стали активними у русі ядерного нерозповсюдження саме тому, що були стурбовані етичними наслідками їхньої власної участі в розробці атомної зброї та фундаментальної загрози. вимирання ядерної війни. Два роки після того, як бомба впала на Хіросіму і Нагасакі, Оппенгеймер заявив:
Незважаючи на бачення і далекоглядність мудрості наших глав держав, фізики відчули своєрідну інтимну відповідальність за те, що пропонують, підтримуючи і в кінцевому рахунку, в значній мірі, досягнення реалізації атомної зброї. Ми також не можемо забувати, що ця зброя, як вони були фактично використані, драматизувалися так безжалісно нелюдськості і зла сучасної війни. У певному грубому розумінні, яке не може вгамувати ніяка вульгарність, ніякий гумор, ніяке завищення, фізики знають гріх; і це знання, яке вони не можуть втратити.
Можна сміятися над тим, наскільки вчені, інженери та винахідники повинні відчувати відповідальність за використання зброї або технологій, які вони створюють. Про те, що багато хто з них відчували / відчували певну відповідальність, це не стосується.
Відповідь Наделли своїм співробітникам відображає або неспроможність розглянути ці питання, або образливе звільнення від них. Повторюся: «Ми прийняли принципове рішення, що ми не збираємося відмовлятися від технології, яку ми обрали в демократичних державах для захисту свободи, якою ми користуємося».
По-перше, відповідь Наделли плутає ідею «утримання» технологій від уряду і утримує її від військових. Військові не є виборною інституцією в будь-якому сенсі цього слова. Крім того, однією з найважливіших критичних зауважень Конгресу у 20-му столітті, в часи як демократичного, так і республіканського керівництва, було його небажання втручатися в різні військові екскурсії та заходи, уповноважені президентом. Реформи пост-в'єтнамської війни, спрямовані на утримання цієї тенденції так званого "імперського президентства", в значній мірі не змогли зробити цього. Між тим, невдачі розвідки, які використовувалися для виправдання всієї війни в Іраку, повинні бути підставою для сумніву щодо будь-якого звернення до рук, що стосується нібито досконалих можливостей прийняття рішень демократично обраними урядами.
Відповідь Наделли припускає, що всі такі дії завжди виправдані і що цілі виправдовують засоби. Фактичні зв'язки між різними військовими діями США за останні 70 років і ступінь захисту, яку вони пропонували "свободам, якими ми користуємося", є набагато більш нюансовими, специфічними, і особливими для конфліктів, про які йдеться.
Відповідь Наделли далі передбачає певну єдину згоду, яка просто не існує серед електорату США або, як я вважаю, у складі співробітників Microsoft. Його заява свідчить про те, що лідери завжди приймають правильні рішення і що кожна військова операція може бути виправдана зверненням до «свободи, якою ми користуємося», просто тому, що політичні лідери були обрані. Немає жодних ознак того, що компанія чи її генеральний директор навіть намагалися залучити до етичних наслідків створення чогось лише для того, щоб побачити ваше творення, яке використовувалося для вбивства або шкоди людям таким чином, якого ви ніколи не мали. Це не є принциповим рішенням. Це безперечне припущення. Це беззаперечне припущення, яке хтось може зробити, якщо ви почнете з ідеї, що армія, яка платить $ 479 млн. Для HoloLens, є зручним моральним добробутом і працює звідти назад.
Є щонайменше 250 співробітників корпорації Майкрософт, які не вважають, що компанія має намір продати цю технологію безпосередньо військовим. Це не дуже багато, порівняно з розміром всієї фірми. Це все ще може становити значну частку кількості людей, які працюють на HoloLens. Люди мають право приймати рішення про те, які проекти вони хочуть присвятити своєму створенню. Не кожний ядерний учений приєднався до руху нерозповсюдження. Є, я певний, працівники HoloLens, які не мають проблем з ідеєю, що їхня робота може бути використана для вбивства людей. Ті, хто піклується, мають повне право турбуватися про те, як їхня робота використовується.
Хоча ми не можемо говорити про те, як HoloLens було повідомлено внутрішньо, ніщо в публічному керівництві та демонстраціях корпорації Майкрософт на 2015-2016 роки не відображало мету його використання для безпосереднього поліпшення бойової смерти. Договір Міністерства оборони підняв досить брів, що ми відзначили це питання в нашому початковому висвітленні цього оголошення. Дозволяючи людям переходити до нових проектів після того, як ви вирішили продати свою роботу військовим, щоб поліпшити смерть, нічого не робить для вирішення етичних проблем, які вони можуть відчути, завдяки чому вони в першу чергу сприяють такому проекту.