Google удаляет гендерные местоимения из функции Smart Compose от Gmail

Google удаляет гендерные местоимения из функции Smart Compose от Gmail

Функция Smart Compose от Google, если вы попытаетесь включить ее, попытается предсказать, что вы собираетесь сказать дальше в электронном письме на основе того, что вы уже набрали. Однако одна вещь, которую эта функция не делает, - это попытка угадать собственное местоимение адреса для человека, которого вы пишете.

Согласно новой истории Reuters, «технология Google не будет предлагать местоимения на основе пола, потому что риск слишком высок, что его технология« Смарт-композиция »может неправильно предсказать чей-то секс или гендерную идентичность и оскорбить пользователей». Это умный ход, и мы аплодируем Google за то, что и сделали это, и желаем признать, почему это так. Проще говоря, компании еще предстоит найти способ создания ИИ, который может точно определить пол человека, который отправляется по электронной почте. Компания обнаружила эту проблему в январе, когда менеджер продукта Gmail Пол Ламберт напечатал «Я встречаюсь с инвестором на следующей неделе», а Smart Compose предложила «Хочешь встретиться с ним?» В качестве потенциального следующего ответа, когда данное лицо действительно было женщина.

В статье отмечается, что Google пробовал несколько обходных решений, но пока не смог найти решение для машинного обучения, которое полностью предотвратило проблему. Проблема возникает отчасти потому, что наборы данных, используемые для обучения ИИ для генерации естественного языка, основаны на миллиардах предложений - предложений, которые кодируют ожидания относительно тех допущений, которые должен сделать ИИ. Если подавляющее большинство врачей, бизнесменов и инвесторов, упомянутых в наборе данных NLG, являются мужчинами, ИИ узнает, что надлежащее местоимение для прикрепления к этой профессии является мужчиной. Проблема, конечно же, заключается в том, как научить ИИ распознавать исключения из правила.

Smart Compose в действии. Серийный текст был предложен AI для включения в электронную почту.
Smart Compose в действии. Серийный текст был предложен AI для включения в электронную почту.

Все это особенно важно, если вы считаете, что на самом деле должен делать Smart Compose. Он предназначен для ускорения процесса ответа на электронную почту, предлагая точные, полезные предложения или фразы. Если автору приходится тратить время на то, чтобы не оскорбить кого-либо, пропустив их, вы уговорили ценность инструмента. В то время как люди терпят с вставленным компьютером словом в течение многих лет в форме Autocorrect, явная несогласованность вставки AC часто служит в качестве немедленного уведомления о том, что телефон «помог» в этом конкретном случае. Просто ссылаться на кого-то из неправильного пола в электронном письме не встречается как случайное событие, вставленное компьютером. Это просто заставляет автора казаться небрежным, в лучшем случае.

Ранее в этом году исследователи фактически провели исследование о том, как люди реагируют на то, чтобы быть забытыми другими людьми, охватывая ряд действий от пропущенного взаимного назначения, чтобы забыть чье-то имя, общий опыт или классный год. Из Атлантики:

Рэй и его команда были удивлены тем, насколько последовательно повредил все это, забыв об этом. Статистический анализ как отчетов студентов, так и последующего контролируемого исследования показал, что люди, которые были забыты, чувствовали себя менее близкими к тем, кто их забыл, независимо от того, был ли заброс членом семьи или кем-то, кого они только что встретили. К счастью, люди, которые были забыты, почти всегда стремились оправдать промахи памяти: студенты университета, например, объясняли бы потенциальные проблемы с комментариями, такими как «она уже встречала слишком много людей за последние пару дней». Но такие рационализации только смягчил удар в конце. «Хорошей новостью является то, что это происходит очень часто, и люди будут стараться изо всех сил прощать, - говорит Рэй. «Плохая новость в том, что в среднем они не могут туда добраться».

Эти результаты, опубликованные в журнале «Личность и социальная психология», предполагают, что забыв, что кто-то действительно отправляет сообщение, все, кажется, боятся, что это так: вы просто не интересовались или инвестировали в этого человека достаточно, чтобы помнить о них. Это впечатление может быть неизбежным. «Очень важно признать, что вы не помните человека, - говорит Лаура Кинг, психолог из Университета Миссури, который отдельно изучил социальные последствия забывания. «Это оскорбление, хотя оно совершенно невинно, и у нас нет абсолютно никакого желания причинять боль чувствам человека. Ты просто сказал этому человеку, что они ноль.

Решение Google быть честным относительно недостатков своего собственного алгоритма и признать, что существующие алгоритмы могут быть созданы предвзятым образом, даже если это не является целью, является критически важным в своем собственном праве. Силиконовая долина корпорации часто были слишком готовы скрыть пределы своих собственных алгоритмов и притвориться, что они ведут исключительно к хорошим результатам для всех участников. Никто не хочет оскорблять кого-либо в деловой электронной почте или рабочем контакте, потому что инструмент AI случайно вставил неправильное местоимение. Никто не хочет выглядеть плохо, потому что глупый AI-инструмент, предназначенный для упрощения написания электронной почты, фактически ввел ошибку, которую кто-то еще нашел оскорбительным. Будучи честным в этом вопросе и предпочитая не развертывать его, Google улучшил шансы, что любое решение, которое в конечном итоге найдет (если оно найдет), будет доверено.

Читать далее

Несколько пользователей Gmail разрешают двухфакторную аутентификацию
Несколько пользователей Gmail разрешают двухфакторную аутентификацию

Данные инженера Google показывают, что только 10 процентов пользователей включили двухфакторную аутентификацию, только немного более развернув менеджер паролей. Защитники безопасности ненавидят его.

Google Rolls Out переработал Gmail
Google Rolls Out переработал Gmail

Теперь новый дизайн выкатывается, и вы можете сделать его выстрелом за несколько кликов.

Хакеры используют фишинговые письма для сбора двухфакторных кодов Gmail
Хакеры используют фишинговые письма для сбора двухфакторных кодов Gmail

Традиционно считается, что добавление двухфакторной проверки подлинности (2FA) защитит ваши учетные записи от большинства фишинг-атак, но новая волна сложных автоматических атак напоминает нам, что это не безошибочно.

Большинство функций Gmail IFTTT перестанут работать на следующей неделе
Большинство функций Gmail IFTTT перестанут работать на следующей неделе

Все согласны с конечной целью улучшения конфиденциальности пользователей, но могут быть недостатки в блокировании популярных сервисов. Пользователи IFTTT (если это, то то) ожидают грубого пробуждения на следующей неделе.