IBM Debater Project, щоб встановити етап для нового типу громадянського суспільства

IBM Debater Project, щоб встановити етап для нового типу громадянського суспільства

Можливо, ми звикли до розповідей AI про похмурі пізніше, оскільки виявлення минулого тижня IBM Project Debater ледве викликало рябь у новинних кімнатах по всій Америці. Це, безумовно, вийшло небагато голів тут у wtoojjaec. Чи може це бути тим, як закінчується вік антропоцену - не з вибухом, але з корпоративним AI, що складається фрагментарними аргументами на користь телемедицини? Такий стан справ, коли IBM Debater Project зіткнувся з двома викладачами ізраїльського світового класу, щоб сперечатися на такі суперечливі теми, як фінансування дослідження космосу та зміна медичних послуг.

За всіма словами, словесний репертуар AI не був еквівалентним його людським колегам. І все-таки, більшість присутніх проголосували за АІ, тим більш переконливим голосом у кімнаті. Частиною цього може стати сліпе довіра, яку ми все частіше віддаляємо комп'ютерам: якщо б я розробив математику за кожним маршрутом, який Google запропонував мені під час дорожньої поїздки, я весь день проводжу за калькулятором. Замість цього я вважаю вірою, що вона запропонувала мені найкраще рішення. І в цьому, можливо, найбільша небезпека від проекту Debater - це не те, що ми зрештою віддамо тягар важливого прийняття рішень на комп'ютери, що виглядає все більш неминучим, а скоріше ми покладемо надто велику довіру до таких систем, перш ніж вони заслуговують на увагу з цього.

Що б не було сказано, на позиціях, що були підтримані проектом Debater під час усних аргументів, одна річ є впевнена: це було не без упередженості. Значна частина цього упередження виникла від людей, які генерували дані, на яких він був підготовлений. Сміття, сміття, як кажуть, в програмувальних колах. Якщо статистичні набори даних, на яких він формував свої думки, не збиралися з обережністю, або якщо зібрані в ньому людські статті містили помилкову логіку або інші помилки, то це буде відображено у пропозиціях, які вона складається. Ніяка кількість копання не виявила, що Project Debater - це щось на кшталт стратегічної суперінтелекту, здатної роздуми про саморобну світову модель. Не настільки, що такі розширені ІС не на горизонті; вони, як це задокументовано в майбутній книзі, яку я пишу на уроці посилення. Скоріше за все, проектор Debater вважався розширенням платформи IBM Watson - пошуку та підбиття підсумків тисяч статей, створених людиною. Це не маленький подвиг, і я вже вірю, що наслідки цієї обмеженої здатності дадуть далекосяжне і широке поширення, що потенційно призведе до знищення нашого всього методу публічного дискурсу.

Багато чого з того, що проходить для громадянського суспільства в розвинених країнах, підкріплюється усними аргументами - незалежно від того, чи обговорюють політики на телебаченні, чи адвокатів, які сперечаються перед Верховним судом. Якщо комп'ютер може виконувати ці функції краще, ніж людина, і після проекту Debater виявляється, що вони коли-небудь могли б, тоді є всі підстави вважати, що вони почнуть мусульманки людськими змаганнями. Поки існує активний цивільний дискурс, що містить продумані статті та підтримуючі статистичні дані про те, що ці АІ навчаються, то нам, напевно, краще дозволити комп'ютерний пошук та підбити підсумки для цих позицій. Вони будуть робити це краще і більш ефективно, ніж людина може.

Проте, якщо ми повинні будь-коли приховати довіру до такого голосу, не вдаючись до реалізації системи стримувань і противаг, яка гарантує, що AI не є просто ехо-камерою для помилкової людської думки, а точніше, навмисне упередженою елітою або корпорацією бажаючи отримати певну ставку для себе, то ми обов'язково почнемо рухатись до загибелі. Неслучно, IBM не змогла продемонструвати жодну сильну систему стримувань і противаг для проекту Debater, або відкрити вихідний код, що за ним, що підриває більшу довіру до системи. Замість того, щоб надихати нашу довіру, я вважаю, що нам слід звернутися до проекту Debater з перебільшенням обережності та вимагати більш суворої методології, перш ніж перетворити її на свободу на будь-яких реальних дебатах.

Читати далі

Лазери, що використовуються для створення негативних частинок маси

Дослідники з університету Рочестера розробили спосіб створення негативних масових частинок, використовуючи, що ще, лазери. Чи не може щось зробити лазерами?

Телефонний довідник Huawei стосовно AT & T, як повідомляється, загинув від політики

Майбутня (і непередбачена) угода з AT & T про продаж нової серії Mate 10 повинна була стати початком натиску Huawei на Північну Америку, але ця операція, як повідомляється, розвалилася на останній хвилині після того, як AT & T застудився, і деякі джерела вказують до політичної справи.

Найпопулярніший супутник "Зума", запущений SpaceX, може бути втрачений

Нещодавній запуск "Зуми", безсумнівно, випав, але тепер є підстави думати, що американський шпигунський супутник може бути знищений до введення в експлуатацію.

Що таке спекулятивне виконання?

Спекулятивне виконання було в новинах пізнього, як правило, при обговоренні помилок Meltdown і Spectre. Ми пояснюємо цю тему.