Google вилучає гендерні займенники з інтелектуальної композиції Gmail

Google вилучає гендерні займенники з інтелектуальної композиції Gmail

Функція Google Smart Compose, якщо ви спробуєте ввімкнути її, спробує спрогнозувати, що ви збираєтеся сказати далі, в електронному листі, на основі того, що ви раніше набрали. Одна справа, що функція не робить, однак, це спроба вгадати правильний займенник адреси для особи, яку ви пишете.

Відповідно до нової історії Reuters, "технології Google не дозволятимуть вказувати займенники за статтю, оскільки ризик занадто високий, тому що технологія" Smart Compose "може передбачати неправильну сексуальну чи гендерну ідентифікацію чийого користувача та образити користувачів". Це розумний крок, і ми аплодуємо Google за те, що робимо це, і хочемо визнати, чому це було так. Простіше кажучи, компанія ще не знайшла способу побудувати AI, який може точно визначити стать людини, що надсилається по електронній пошті. Компанія виявила цю проблему в січні, коли менеджер продукту Gmail Пол Лемберт надіслав "Я зустрічаюсь з інвестором наступного тижня", і Smart Compose запропонував "Ви хочете зустріти його?" Як потенційну наступну відповідь, коли ця особа була фактично жінка

У статті зазначається, що Google прослідкувала кілька способів вирішення проблеми, але поки не вдалося знайти машинне рішення для навчання, яке чисто запобігає проблемі. Питання виникає частково тому, що набори даних, які використовуються для підготовки AI для створення покоління природних мов, базуються на мільярдах пропозицій - речення, котрі кодують очікування щодо різних припущень, які повинен зробити АІ. Якщо переважна більшість лікарів, бізнесменів та інвесторів, на які посилається в наборі даних NLG, є чоловіки, AI збирається дізнатись, що належним займенником для приєднання до цієї професії є чоловік. Проблема, звичайно, полягає у з'ясуванні того, як навчити AI визнавати винятки з правила.

Спритна композиція в дії. Сірий текст був запропонований АІ для включення в електронний лист.
Спритна композиція в дії. Сірий текст був запропонований АІ для включення в електронний лист.

Все це особливо важливо, коли ви вважаєте, що насправді має робити Smart Compose. Він призначений для прискорення процесу відповіді на електронну пошту, пропонуючи точні, корисні статті або фрази. Якщо автор повинен витратити час на те, щоб не образити когось, виправляючи їх, ви нанесли значення інструмента. Незважаючи на те, що люди, котрі вдалося ввести слово з комп'ютером протягом багатьох років, не вдавались у формі Автокоректування, абсолютна невідповідність вставці змінного струму часто є негайним повідомленням про те, що телефон "допоміг" у цьому конкретному випадку. Просто звернення до когось з неправильної статі в електронному листі не зустрічається як випадкове вставлене комп'ютером подію. Це просто робить автора здається необережним, у кращому випадку.

На початку цього року дослідники фактично провели дослідження про те, як люди реагують на те, що вони забуті іншими людьми, охоплюючи ряд дій від пропущеного взаємного призначення до забуття чиєїсь імені, спільного досвіду або класного року. Від Атлантики:

Рей та його команда були здивовані тим, як послідовно руйнувало все це забування. Статистичний аналіз як звітів учнів, так і контрольних досліджень показав, що забуті люди відчувають себе менш близькими до тих, хто їх забув, незалежно від того, чи зачаток був членом сім'ї чи когось, якого вони просто зустрічали. Милостиво, люди, які були забуті, майже завжди прагнули виправдати втрати пам'яті: студенти університету, наприклад, могли пояснити потенційні шахрайства за допомогою коментарів, таких як "вона вже зустріла занадто багато людей за останні пару днів". Але такі раціоналізації лише пом'якшив удар в кінці. "Хороша новина полягає в тому, що це відбувається дуже багато, і люди намагатимуться прощати, - каже Рей. "Погана новина полягає в тому, що в середньому вони не можуть цілком потрапити туди".

Ці результати, опубліковані в журналі "Особистість та соціальна психологія", дозволяють припустити, що, забуваючи, що хтось дійсно надсилає повідомлення, кожний, схоже, боїться це: ви просто не були зацікавлені або інвестували в цю людину достатньо, щоб згадати про них речі. Враження може бути неминучим. "Це така велика справа, щоб визнати, що ви не пам'ятаєте людину", - каже Лаура Кінг, психолог з Університету Міссурі, який окремо вивчив соціальні наслідки забуття. "Це образа, хоча це абсолютно невинно, і у нас немає абсолютно ніякого бажання зашкодити почуттям людини. Ви просто сказали цій людині, що вони нульові ».

Рішення Google бути чесним щодо недоліків власного алгоритму та визнати, що існуючі алгоритми можуть бути створені упередженим способом, навіть якщо це не мета, це надзвичайно важливе значення. Корпорації Силіконової долини часто були занадто готові сховати межі власних алгоритмів і робити вигляд, що вони ведуть виключно до хороших результатів для всіх, хто задіяний. Ніхто не хоче, щоб хтось інший образив ділову електронну пошту чи робочий контакт, тому що інструмент AI випадково вставив неправильний займенник. Ніхто не хоче виглядати погано, тому що дурний інструмент AI, призначений для спрощення написання електронної пошти, фактично вставив помилку, яку хтось інший визнав образливим. Чесно кажучи з приводу цієї проблеми, і вирішивши не розгортати його, Google покращив шанси на те, що будь-яке рішення, яке в кінцевому підсумку знайде (якщо він знайде його), буде довірено.

Читати далі

Google Lunar X призу може закінчитися без переможців

Фонд готовий виплатити призи на суму до 30 мільйонів доларів, але, як видається, пропозиція може закінчитися через кілька місяців без перемог.

Деталі Google Spectre та Meltdown виправлено для своїх хмарних служб

Це було непросто, але Google розгорнув патчі до своїх послуг, і ви навіть не помітили.

Chromecast, Google Home може перевантажувати ваш Wi-Fi

Якщо у вас виникли проблеми з Wi-Fi після підключення смартфону Google чи Chromecast, можливо, це не ваш маршрутизатор чи інтернет.

Google AutoML створює моделі машинного навчання без досвіду програмування

Сутність Cloud AutoML полягає в тому, що майже кожен може надати каталог зображень, імпортувати теги для зображень та створити функціональну модель машинного навчання на основі цього.