Генеральный директор Google обещает расследовать уход ведущего исследователя ИИ

Генеральный директор Google Сундар Пичаи извинился перед другими сотрудниками Google за то, как компания отнеслась к увольнению / увольнению эксперта по искусственному интеллекту Тимнита Гебру. В записке не говорилось, связались ли Пичаи или какой-либо сотрудник Google с доктором Гебру и будут ли ей получены прямые извинения. Хотя генеральный директор мог иметь намерение направить свое послание, чтобы успокоить ситуацию, его тон и фрейм могли иметь противоположный эффект.

Памятная записка Пичаи сотрудникам - это последняя эскалация этой череды невероятно странных событий. На прошлой неделе доктор Гебру, ведущий специалист по этике искусственного интеллекта, нанятый Google, объявила, что ее уволили, хотя глава Google AI Джефф Дин утверждает, что она ушла в отставку. Непосредственный менеджер доктора Гебру, Сами Бенжио, выступил с заявлением в ее поддержку.

Если все было так честно, если вытаскивание бумаги было действительно процедурным вопросом - почему менеджер @timnitGebru не подключился? Почему Сэми не покупает это? Это лишь последний из множества примеров того, как история на обложке развалилась. #ISupportTimnit #BelieveBlackWomen https://t.co/mhEIJ4M2tU pic.twitter.com/RRpFSDQxYA

- Google Walkout For Real Change (@GoogleWalkout) 6 декабря 2020 г.

Общеизвестно следующее: доктора Гебру уволили (или уволили, по словам Google) за отказ отозвать или изменить статью, написанную ею и другими сотрудниками Google, а также за предъявление серии требований, которые компания сочла неприемлемыми. Доктор Гебру и ее союзники в Google и за его пределами оспаривают это повествование о событиях. Статья представляет собой обзор предыдущих исследований ограничений и слабых сторон моделей ИИ, используемых в настоящее время для языкового анализа. (По крайней мере, в этом согласны обе стороны спора).

Если вам это кажется скучным, вы не одиноки. На самом деле, это одна из самых странных вещей во всей этой истории. Согласно Wired, который прочитал документ, самое примечательное о работе «как бесспорный это.» Газета не атакует Google или технологии Google. Он просто цитирует предыдущие исследования, показывающие, что модели ИИ могут потреблять огромное количество электроэнергии, и обсуждает проблему построения модели ИИ на основе предвзятого исходного материала. Одно из исследований предвзятости, цитируемое в статье доктора Гебру, было опубликовано компанией Google ранее в этом году.

Высокое энергопотребление ИИ не секрет - это основная причина, по которой многие компании пытаются разработать новые, более эффективные ускорители ИИ. Google, Facebook и другие лидеры в этой области уже указали в различных моментах, что они подчеркивают повышение эффективности своих текущих развертываний ИИ. Точно так же в этой области нет разногласий по поводу идеи о том, что построение модели ИИ на основе предвзятых данных приведет к созданию предвзятой модели. Концепция GIGO - Garbage In, Garbage Out - не нова. Лишь в последние несколько лет исследователи начали обращать внимание на проблему, но ее существование не вызывает сомнений.

Google потратил много времени и денег на типы крупномасштабных моделей языковой обработки, которые критиковал доктор Гебру в статье, и развернул свою собственную языковую модель, BERT, чтобы помочь в обработке длинных результатов поиска. Но рассматриваемая статья не критиковала BERT.

Компания заявила, что приняла отставку доктора Гебру, потому что она требовала знать, кто, в частности, посчитал, что ее статья не соответствует стандартам Google для публикации. Что никого не удовлетворило, так это то, почему ее статья была признана неудовлетворительной. Google заявила, что в ее статье игнорируются недавние исследования в этой области, которые показывают, что новые модели более энергоэффективны, чем в прошлом, а также работа, посвященная недавним исследованиям предвзятости. Однако, как отмечает MIT Technology Review, в документе перечислено 128 цитат, которые являются результатом сотрудничества доктора Гебру и шести других авторов, включая четырех исследователей Google.

Другое объяснение отказа заключается в том, что ее отправка нарушила двухнедельное требование Google о том, как и когда документы должны быть отправлены до утверждения для публикации. Это объяснение публично оспаривалось предыдущими сотрудниками Google.

Это такая ложь. Рецензирование этих документов было частью моей работы в команде Google по связям с общественностью. Обычно нас бывает так много, что мы не проверяем их вовремя, или исследователь просто публиковал, и мы не знали раньше. Мы НИКОГДА не наказывали людей за нарушение правил. https://t.co/hNE7SOWSLS pic.twitter.com/Ic30sVgwtn

- Уильям Фицджеральд (@william_fitz) 4 декабря 2020 г.

Критика развития этой ситуации исходит не только от внешних сторон. Несколько тысяч сотрудников Google подписали открытое письмо с требованием провести полностью прозрачное расследование обстоятельств того, что они называют увольнением доктора Гебру.

Публичный аргумент Google состоит в том, что компания приняла отставку доктора Гебру после того, как она выдвинула неуместные требования о прозрачности. Он также утверждает, что ее статья была подана неправильно и таким образом, что явилось серьезным нарушением правил Google. Большое количество людей, включая людей, которые работали напрямую с доктором Гебру, прямо оспорили эти утверждения.

Записка Пичаи явно предназначена для решения этой проблемы. Это не очень хорошо.

Как записывать, но плохо

У Axios есть полный документ, но я остановлюсь на нескольких важных моментах. Все, что выделено курсивом, взято из записки Пичаи. Вот первый абзац:

Одна из вещей, которыми я больше всего горжусь в этом году, - это то, как сотрудники Google со всей компании объединились, чтобы выполнить наши обязательства по обеспечению справедливости в отношении расовых отношений. Это тяжелая, важная работа, и, хотя мы твердо привержены делу улучшения, нам есть чему поучиться и улучшить. Важной частью этого является изучение нашего опыта, такого как уход доктора Тимнита Гебру.

Фраза вроде «извлекать уроки из нашего опыта, такого как уход доктора Тимнита Гебру» - это пассивный PR-трюк, который связывает все действия с доктором Гебру и подразумевает, что она ушла из компании, а не Google уволил ее. Вопрос о том, подал ли доктор Гебру в отставку или был уволен Google, является одним из центральных пунктов спора. Одно из двух открытых писем, опубликованных сотрудниками Google в поддержку доктора Гебру, начинается со следующего: «Dr. Гебру не ушел в отставку »(курсив оригинала). Решение Пичаи оформить свой начальный абзац так, как будто это решенный вопрос, одновременно уклоняется от ответственности и игнорирует оспариваемый характер претензии.

Пичай пишет, что первое, что нужно сделать Google:

оценить обстоятельства, которые привели к уходу доктора Гебру, выяснить, где мы могли бы улучшить и вести более уважительный процесс. Второе, что необходимо сделать, - это принять на себя ответственность за то, что известная чернокожая женщина-лидер с огромным талантом, к сожалению, покинула Google.

Первый - еще один пример неуклюжего, мягкого пиар-разговора, призванного минимизировать идею о том, что Google предпринял какие-то действия. Второй вариант звучит хорошо - Google берет на себя ответственность за что-то, - за исключением того, что он рассматривает весь вопрос об уходе доктора Гебру как решенный.

Три требования в открытом письме, подписанном несколькими тысячами сотрудников Google, заключались в том, чтобы Google объяснил, почему статья была отклонена, почему она хотела, чтобы доктор Гебру и ее коллеги отозвали свое исследование языковой модели, а также чтобы Google «взял на себя недвусмысленное обязательство. исследовать честность и академическую свободу ». В записке Пичаи много говорится о том, как фурор, вызванный увольнением доктора Гебру, вызвал нежелательные опасения у других цветных в компании, но в ней ничего не говорится о существенных вопросах, которые сотрудники Google задавали в связи с обстоятельствами ее ухода.

Пичаи утверждает, что Google почувствует ее потерю, потому что доктор Гебру является экспертом в областях, в которых Google «должен» добиться прогресса, и что этот прогресс зависит от нашей способности задавать себе сложные вопросы. Он пишет это, видимо, без иронии.

Я не собираюсь утверждать, что владею инсайдерской информацией о том, что произошло между доктором Гебру и Google, но я не могу вспомнить, когда в последний раз группа инженеров публично протестовала против увольнения или увольнения одного человека. Ясно, что эта ситуация выглядит подозрительной для очень многих людей, и в заявление Пичаи о том, что Google извлечет правильные уроки из этих событий, трудно поверить, учитывая, что в этой записке игнорируются все существенные вопросы, поднятые по поводу ситуации. Google может полагать, что действовал оправданно и в полном соответствии со своей внутренней политикой. Но значительная группа людей, некоторые из которых были связаны с рассматриваемой газетой, не согласны.

В своей служебной записке Пичай заявляет, что для него невероятно важно, чтобы наши черные, женщины и недопредставленные гуглеры знали, что мы ценим вас и вы принадлежите к Google. Одним из лучших способов продемонстрировать, что это правда в данных обстоятельствах, могло бы быть прямое участие в запросах о прозрачности в отношении увольнения доктора Гебру.

Просто мысль.

Читать далее

Исследователь безопасности: пароль компании solarwinds123 оставлен уязвимым в 2019 г.

SolarWinds, компания, оказавшаяся в центре массового взлома правительственных учреждений и корпораций США, не совсем использует передовые методы паролей.

Исследователи развивают самые белые краски для борьбы с изменением климата

Помимо того, чтобы быть аккуратным техническим подвигом, команда считает, что новая белая краска может помочь решить изменение климата, сохраняя нагрузки мощности.

Исследователи: 2,5 млрд. Тиранозаврных Рексов гуляли на землю

Новый анализ из Университета Калифорнийской Беркли Беркли, по оценкам, в любой момент времени в течение мелового периода было около 20 000 взрослых тиранозавров. Добавьте это через миллионы лет, и там можно было легко 2,5 миллиарда этих динозавров.

Intel, исследователи обсуждают, существуют ли новые уязвимости типа спектров

Исследователи утверждают, что нашли новый тип призрачной атаки, который обходит все существующие защиты, но что обрамление не поддерживается.