Служби Google повстають над співпрацею Pentagon Project Maven

Служби Google повстають над співпрацею Pentagon Project Maven

Минулого місяця ми розповідали про те, що Google та Пентагон співпрацюють над розробкою штучного інтелекту для аналізу кадрів без звукозапису. Було повідомлено, що співробітники компанії Google були надзвичайно незадоволені над цим, і недавнє відкрите лист, надіслане генеральному директору компанії Сундар Пічай, робить цей пункт з самого початку, відкриваючи:

Ми вважаємо, що Google не має займатися військовою діяльністю. Тому ми просимо скасувати проект Maven, і цей проект Google, оприлюднювати та застосовувати чіткі правила, що ні компанія Google, ні її підрядники ніколи не будуватимуть технології ведення бойових дій.

У листі зазначається, що, попри те, що Google пообіцяв, що його робота не буде використовуватися для роботи безпілотних літаків або запуску зброї, ця технологія може бути використана для інших військових цілей. Потім він заявляє, що розглядатися як союзник американських військових у цих питаннях може непоправно завдати шкоди зусиллям Google для залучення нових талантів, об'єднавши їх з такими компаніями, як Палантрі, Рейтеон та General Dynamics.

Важко провести чисті лінії між військовим і невійськовим використанням деяких технологій. Коли вбудоване розпізнавання об'єктів стає технологією, яку ви не хочете допомагати розвиватися?
Важко провести чисті лінії між військовим і невійськовим використанням деяких технологій. Коли вбудоване розпізнавання об'єктів стає технологією, яку ви не хочете допомагати розвиватися?

Співробітники Google кажуть: "Ми не можемо передавати третій стороні моральну відповідальність за наші технології". Автори відхиляють ідею, що ситуація допустима лише тому, що компанії, як Amazon та Microsoft, беруть участь. Лист, який було підписано більш ніж 3100 чоловік, заявляє, що унікальна позиція Google вимагає, щоб вона тримала себе за іншим, більш високим стандартом.

Формальна відповідь Google, навпаки, є ручною "Ні, серйозно, все гаразд". Цитата:

Maven - це добре проінформований проект DoD, і Google працює над однією його частиною, спеціально орієнтованою на неприпустимість, і використання програмного забезпечення для розпізнавання об'єктів із відкритим кодом, доступне для будь-якого клієнта Google Cloud. Моделі грунтуються лише на некласифікованих даних. Технологія використовується для позначення зображення для огляду людини і призначена для рятування людей та врятування людей від необхідності робити дуже втомливу роботу.

Будь-яке військове використання машинного навчання природно викликає серйозні проблеми. Ми активно співпрацюємо з компанією у всебічному обговоренні цієї важливої ​​теми, а також із зовнішніми експертами, оскільки ми продовжуємо розробляти нашу політику щодо розробки та використання наших технологій машинного навчання.

Відповідь - це нахабний PR-розмовник і уникає взаємодії з будь-якими основними питаннями, які ставлять працівники. Ці типи питань виникли раніше, у багатьох різних контекстах. Для всіх розмов про те, яким чином федеральний уряд не повинен займатися вибором переможців та переможців, які ви іноді чуєте, фактично федеральний уряд закуповує величезну кількість, добре, речі, від комп'ютерів та офісного обладнання до військової техніки .

Однією з найбільших змін у федеральних закупівлях протягом останніх 23 років була декларація міністра оборони Вільяма Перрі 1994 року про те, що військові повинні, коли це можливо, покладатися на COTS (Commercial Off the Shelf), на відміну від плати за нестандартні апаратні засоби та внутрішні розвиток Дебати про те, наскільки це добре чи погано, часто призводять до специфіки даного проекту, але одне очевидно: якщо ви збираєтеся працювати з апаратним та програмним забезпеченням COTS, це означає, що ви збираєтеся працювати з компаніями, які розвивали ваше обладнання та програмне забезпечення набагато частіше. Якщо нічого іншого, він створює більше можливостей для розмиття між тим, що є і не є прийнятною підтримкою для певної політики чи використання.

З того, як звучить все, Google не планує відмовитися від співпраці в Project Maven. Те, що буде означати довгостроковий період, є невизначеним.