Google працює з Пентагоном для створення проекту Maven, AI для безпілотників

Google працює з Пентагоном для створення проекту Maven, AI для безпілотників

У новому звіті зазначається, що Google допомагає Пентагону розвинути штучний інтелект, щоб аналізувати матеріали бездоріг та виявляти об'єкти всередині цього - незважаючи на те, що генеральний директор Google Ерік Шмідт публічно висловив занепокоєння з приводу партнерства з урядом з таких питань, а розбіжності між співробітниками Google над тим, чи має компанія будь-яка частина таких зусиль.

Шмідт раніше був обережним у партнерстві з військовими, кажучи: "У технічній спільноті чомусь виникає занепокоєння як-небудь військово-промислового комплексу, який використовує їх, щоб вбивати людей неправильно", - повідомляє Gizmodo. Незалежно від того, що стосувалося Шмідта, було явно недостатньо, щоб змусити його змагатись з деякими витратами Міністерства оборони на ІС ("Уолл Стридж Журнал" повідомляв на початку цього тижня, що витрати ІІ на ДО перевищили 7,4 млрд. Доларів США в 2017 році).

Частини TPU для хмарних технологій Google призначені для прискорення робочих навантажень TensorFlow, але незрозуміло, чи компанія керує робочими навантаженнями Project Maven.
Частини TPU для хмарних технологій Google призначені для прискорення робочих навантажень TensorFlow, але незрозуміло, чи компанія керує робочими навантаженнями Project Maven.

Що стосується того, чого прагнув Пентагон, то це концептуально не сильно відрізняється від того, що потрібно від Facebook, Google, Microsoft та половини сотні інших компаній. Користувачі створюють і завантажують величезну кількість даних. Корпорації хочуть проаналізувати ці дані для відстеження та монетизації користувачів більш ефективно. Оскільки жоден з моніторів не міг відслідковувати, тегувати та аналізувати орієнтири, людські обличчя та інші об'єкти або події, зачеплені на камері, як тільки нові дані ллються, Силіконова долина зосереджена на лазерах на побудові алгоритмів, які можуть обробляти промову палаючий будинок. Пентагон хотів дещо з цієї можливості для себе і запустив нову ініціативу з її розробки, Project Maven, в минулому році.

Існує безліч побоювань щодо монетизації користувачів, конфіденційності кінцевих користувачів та впливу алгоритмічного упередження на постійній основі. Ці питання значно збільшуються, коли ми враховуємо можливий неправильний аналіз АІ у боротьбі або місію зі збору інформації. Очевидно, що людський аналіз як і раніше буде критичним компонентом будь-якого інтелекту, який піддається операційній діяльності, але, як кажуть, AI визначив об'єкт, який нагадував X або Y, міг легко змусити упередження аналітику розвідки. Як ми також говорили, люди, як правило, ставляться до комп'ютерів як до надійніших, ніж для людей, не менше. У деяких галузях це залежить від передбачуваних можливостей машини. В інших, не стільки.

Gizmodo відзначає, що, незважаючи на побоювання співробітників, офіційне повідомлення Google полягає в тому, що це бізнес як завжди. Представник компанії заявив:

Ми давно працювали з державними установами, щоб забезпечити технологічні рішення. Цей конкретний проект є льотчиком з Міністерством оборони, щоб забезпечити відкриті джерела TensorFlow API, які можуть допомогти в розпізнаванні об'єктів на некласифікованих даних ", - сказала прес-секретар. "Технологія прапорці зображення для людського огляду, і призначена лише для ненав'язливих цілей. Військове використання машинного навчання природно викликає серйозні проблеми. Ми активно обговорюємо цю важливу тему всередині та з іншими, як ми продовжуємо розробляти політику та гарантії щодо розробки та використання наших технологій машинного навчання.

Згідно з повідомленнями, військові встановили агресивну графіку для проекту Maven, причому рішення було введено в дію протягом шести місяців після початку та розгортання на Близькому Сході в грудні минулого року. Розгортання Maven (хоча і не зусилля Google щодо його розробки) обговорювалися іншими джерелами, що, здавалося б, підтверджують цю частину історії.

Використання АІ у війні було неминучим, як і зацікавленість уряду в технології, але навіть щось таке доброясні, як легко класифікувати об'єкт, і це припускає, що алгоритми, про які йде мова, завжди правильні. Ми не можемо говорити про те, чи використовується Project Maven способом, що відповідає його можливостям, чи критеріями оцінювання зазначеної ефективності, і тому не може робити жодних висновків щодо самої програми, але її існування дійсно ставить питання про як IP, розроблений для застосунків з низькими ставками, буде виконуватись, коли ставки значно більші.