Генеральний директор Google обіцяє дослідити вихід найкращого дослідника ШІ

Генеральний директор Google Сундар Пічаї вибачився перед іншими працівниками Google за те, як компанія справилася зі звільненням / звільненням експерта ШІ Тімніта Гебру. У записці не зазначається, чи Пічай чи будь-який співробітник Google звернувся до доктора Гебру, чи не відбудеться прямого вибачення перед нею. Незважаючи на те, що генеральний директор мав намір призначити його послання заспокоїти ситуацію, його тон і обрамлення можуть мати протилежний ефект.

Пам’ятка Пічаї працівникам - це остання ескалація подій, що стала незрозумілою. Минулого тижня доктор Гебру, провідний етик ШІ, якого зайняли на видному місці в Google, оголосив, що її звільнили з посади, хоча глава ШІ Google Джефф Дін стверджує, що подала у відставку. Безпосередній менеджер доктора Гебру Самі Бенджо видав їй заяву про підтримку.

Якщо все було так над дошкою, якщо тягнення паперу справді стосувалось процедурних питань - чому менеджера @ timnitGebru не зациклювали? Чому Самі не купує його? Це лише останнє з багатьох випадків, коли історія обкладинки розпалася. #ISupportTimnit #BelieveBlackWomen https://t.co/mhEIJ4M2tU pic.twitter.com/RRpFSDQxYA

- Google Walkout For Real Change (@GoogleWalkout) 6 грудня 2020 р

Загальновідомо те, що доктор Гебру був звільнений (або подав у відставку, за повідомленням Google) за відмову відкликати або змінити документ, який вона та інші співробітники Google писали, та за висування ряду вимог, які компанія визнала неприйнятними. Доктор Гебру та її союзники в Google та поза нею заперечують це розповідання подій. Стаття являє собою огляд попередніх досліджень щодо обмежень та слабких сторін моделей ШІ, які в даний час використовуються для мовного аналізу. (Принаймні, принаймні обидві сторони суперечки погоджуються).

Якщо це звучить для вас нудно, ви не самотні. Насправді, це одна з найдивніших речей у всій цій справі. За словами Wired, який ознайомився з цим документом, найвизначніше в газеті "наскільки це суперечливе значення". Папір не атакує Google або технології Google. У ньому просто цитуються попередні дослідження, які показують, що моделі ШІ можуть з’їдати величезну кількість електроенергії, і обговорюється проблема побудови моделі ШІ на упереджених вихідних матеріалах. Одне із досліджень щодо упередженості, на яке посилається стаття доктора Гебру, було опубліковане компанією Google на початку цього року.

Високе енергоспоживання ШІ не є секретом - це головна причина, чому багато компаній намагаються розробити нові, більш ефективні прискорювачі ШІ. Google, Facebook та інші лідери в цій галузі вже вказували в різних точках, що вони наголошують на підвищенні ефективності своїх поточних розгортань ШІ. Подібним чином у цій галузі немає суперечок щодо думки, що побудова моделі ШІ на упереджених даних дасть упереджену модель. Концепція GIGO - Garbage In, Garbage Out - навряд чи нова. Лише в останні кілька років дослідники почали звертати увагу на проблему, але її існування не є суперечливим.

Google вклав багато часу та грошей у типи великомасштабних моделей обробки мови, які доктор Гебру критикував, і застосував власну мовну модель BERT для допомоги у обробці довгих результатів пошуку. Але в статті, про яку йдеться, не було особливої ​​критики щодо BERT.

Компанія заявила, що прийняла відставку доктора Гебру, оскільки вона вимагала дізнатись, хто саме вважав, що її стаття не відповідає стандартам Google для публікації. Що нікому не було пояснено із задоволенням, це те, чому її стаття була визнана незадовільною. Google зазначила, що її стаття ігнорує недавні дослідження у цій галузі, які показують нові моделі як більш енергоефективні, ніж у минулому, а також роботу, що обговорює недавню роботу щодо упередженості. Однак, як зазначає MIT Technology Review, у документі перераховано 128 цитат, що було співпрацею доктора Гебру та шести інших авторів, включаючи чотирьох дослідників Google.

Іншим поясненням відхилення є те, що її подання порушило двотижневу вимогу Google щодо того, як і коли подавати документи до затвердження до публікації. Це пояснення публічно оскаржувалось попередніми співробітниками Google.

Це така брехня. Переглядати ці документи було частиною моєї роботи в команді Google PR. Зазвичай ми отримуємо так багато, що ми не розглядали їх вчасно, або дослідник просто публікував їх, і ми не знали цього пізніше. Ми НІКОЛИ не карали людей за неналежне ведення процесу. https://t.co/hNE7SOWSLS pic.twitter.com/Ic30sVgwtn

- Вільям Фіцджеральд (@william_fitz) 4 грудня 2020 року

Критика того, як ця ситуація розгорталася, йде не лише від зовнішніх партій. Кілька тисяч співробітників Google підписали відкритий лист, вимагаючи повністю прозорого розслідування обставин, які, на їхню думку, є звільненням доктора Гебру.

Загальнодоступний аргумент Google полягає в тому, що він прийняв відставку доктора Гебру після того, як вона висунула невідповідні вимоги щодо прозорості. Він також стверджує, що її стаття була подана неналежним чином і таким чином, що було суттєвим порушенням правил Google. Велика кількість людей, включаючи осіб, які працювали безпосередньо з доктором Гебру, прямо оскаржували ці твердження.

Пам’ятка Пічай, очевидно, покликана відповісти на цю проблему. Це не дуже добре.

Як пам’ятати, але погано

У Axios є повний документ, але я досягну декількох важливих моментів. Все, що виділено курсивом, - із пам’ятки Пічай. Ось початковий абзац:

Однією з речей, якими я найбільше пишався цього року, було те, як працівники Google з усієї компанії об’єднались, щоб виконати наші зобов’язання щодо расової справедливості. Це важка, важлива робота, і хоча ми твердо прагнемо робити краще, нам є чому вчитися та вдосконалюватися. Важливою частиною цього є навчання на нашому досвіді, як від'їзд доктора Тімніта Гебру.

Фраза на кшталт "вчитися на нашому досвіді, як від'їзд доктора Тімніта Гебру", - це пасивний PR-виступ, який пов'язує всі дії з доктором Гебру і означає, що вона пішла з компанії, а не Google припинила її. Питання про те, чи пішов доктор Гебру у відставку чи був звільнений Google, є одним із центральних суперечок. Одне з двох відкритих листів, опублікованих співробітниками Google на підтримку доктора Гебру, відкривається, сказавши: «Dr. Гебру не подав у відставку »(оригінал курсивом). Рішення Пічай сформулювати свій вступний абзац так, ніби це вирішений момент, одночасно ухиляється від відповідальності та ігнорує оскаржуваний характер позову.

Перше, що Google повинен зробити, пише Пічай, це:

оцінити обставини, що призвели до від'їзду доктора Гебру, вивчити, де ми могли б покращитись і провести більш шанобливий процес. Друге, що йому потрібно зробити, - це прийняти відповідальність за те, що видатна чорношкіра жінка-лідер з величезним талантом нещасно покинула Google.

Перший - ще один приклад незграбної, м’якої PR-розмови, покликаної мінімізувати думку про те, що Google вжив заходів. Друге звучить добре - Google за щось бере відповідальність - за винятком, знову ж таки, все питання про відхід доктора Гебру трактує як вирішене.

Три вимоги відкритого листа, підписаного кількома тисячами співробітників Google, полягали в тому, щоб Google пояснила, чому відхилили цей документ, пояснила, чому доктор Гебру та її колеги відкликають дослідження своїх мовних моделей, а Google “взяла однозначне зобов’язання досліджувати доброчесність та академічну свободу ". У пам’ятці Пічай численні згадки про те, як фурор навколо звільнення доктора Гебру викликав небажані побоювання для інших кольорових людей у ​​компанії, але він нічого не робить для вирішення основних питань, які співробітники Google задавали щодо обставин її від'їзду.

Пічаї стверджує, що Google відчує її втрату, оскільки доктор Гебру є експертом у сферах, в яких Google "повинен" прогресувати, і що цей прогрес залежить від нашої здатності задавати собі складні питання. Він пише це, мабуть, без жодної іронії.

Я не збираюся стверджувати, що маю глибокі знання про те, що сталося між доктором Гебру та Google, але я не можу згадати, коли востаннє група інженерів вставала і публічно протестувала проти звільнення / звільнення однієї особи. Зрозуміло, що така ситуація виглядає дуже страшною для багатьох людей, і в заяву Пічаї про те, що Google візьме правильні уроки з цих подій, важко повірити, враховуючи, що ця пам’ятка ігнорує кожне суттєве питання, яке було порушено щодо ситуації. Google може вважати, що діяв із захистом і повністю відповідав своїй внутрішній політиці. Але значна група людей, деякі з яких брали участь у цій газеті, не погоджуються.

У своїй записці Пічай обіцяє, що для нього надзвичайно важливо, щоб наші чорношкірі, жінки та недостатньо представлені працівники Google знали, що ми цінуємо вас і ви належите до Google. Одним з найкращих способів продемонструвати, що це правда, за певних обставин може бути безпосереднє взаємодія з проханнями про прозорість щодо припинення доктора Гебру.

Просто думка.

Читати далі

Дослідник безпеки: "solarwinds123" Пароль, що залишив фірму вразливою у 2019 році

SolarWinds, компанія в центрі масового злому, який вразив урядові установи та корпорації США, точно не використовує передові методи паролів.

Дослідники розробляють Whitest Paint коли-небудь, щоб боротися з зміною клімату

Окрім того, щоб бути акуратним технічним подвигу, команда вважає, що нова біла фарба може допомогти вирішити зміну клімату шляхом збереження навантажень влади.

Дослідники: 2,5 млрд. Тіранозавр Рекс?

Новий аналіз з університету Каліфорнії Берклі оцінює, що під час крейдяного періоду було близько 20 000 дорослих тиранозаврів. Додайте, що понад мільйони років, і в цілому було багато 2,5 мільярда цих динозаврів.

Intel, дослідники обговорюють, чи існують нові уразливості типу SPECTER-типу

Дослідники стверджують, що знайшли новий тип причальної атаки, який обходить всі існуючі захисні огородження, але, що оформлення не підтримується.