IBM Debater Project, щоб встановити етап для нового типу громадянського суспільства

Можливо, ми звикли до розповідей AI про похмурі пізніше, оскільки виявлення минулого тижня IBM Project Debater ледве викликало рябь у новинних кімнатах по всій Америці. Це, безумовно, вийшло небагато голів тут у wtoojjaec. Чи може це бути тим, як закінчується вік антропоцену - не з вибухом, але з корпоративним AI, що складається фрагментарними аргументами на користь телемедицини? Такий стан справ, коли IBM Debater Project зіткнувся з двома викладачами ізраїльського світового класу, щоб сперечатися на такі суперечливі теми, як фінансування дослідження космосу та зміна медичних послуг.

За всіма словами, словесний репертуар AI не був еквівалентним його людським колегам. І все-таки, більшість присутніх проголосували за АІ, тим більш переконливим голосом у кімнаті. Частиною цього може стати сліпе довіра, яку ми все частіше віддаляємо комп'ютерам: якщо б я розробив математику за кожним маршрутом, який Google запропонував мені під час дорожньої поїздки, я весь день проводжу за калькулятором. Замість цього я вважаю вірою, що вона запропонувала мені найкраще рішення. І в цьому, можливо, найбільша небезпека від проекту Debater - це не те, що ми зрештою віддамо тягар важливого прийняття рішень на комп'ютери, що виглядає все більш неминучим, а скоріше ми покладемо надто велику довіру до таких систем, перш ніж вони заслуговують на увагу з цього.

Що б не було сказано, на позиціях, що були підтримані проектом Debater під час усних аргументів, одна річ є впевнена: це було не без упередженості. Значна частина цього упередження виникла від людей, які генерували дані, на яких він був підготовлений. Сміття, сміття, як кажуть, в програмувальних колах. Якщо статистичні набори даних, на яких він формував свої думки, не збиралися з обережністю, або якщо зібрані в ньому людські статті містили помилкову логіку або інші помилки, то це буде відображено у пропозиціях, які вона складається. Ніяка кількість копання не виявила, що Project Debater - це щось на кшталт стратегічної суперінтелекту, здатної роздуми про саморобну світову модель. Не настільки, що такі розширені ІС не на горизонті; вони, як це задокументовано в майбутній книзі, яку я пишу на уроці посилення. Скоріше за все, проектор Debater вважався розширенням платформи IBM Watson - пошуку та підбиття підсумків тисяч статей, створених людиною. Це не маленький подвиг, і я вже вірю, що наслідки цієї обмеженої здатності дадуть далекосяжне і широке поширення, що потенційно призведе до знищення нашого всього методу публічного дискурсу.

Багато чого з того, що проходить для громадянського суспільства в розвинених країнах, підкріплюється усними аргументами - незалежно від того, чи обговорюють політики на телебаченні, чи адвокатів, які сперечаються перед Верховним судом. Якщо комп'ютер може виконувати ці функції краще, ніж людина, і після проекту Debater виявляється, що вони коли-небудь могли б, тоді є всі підстави вважати, що вони почнуть мусульманки людськими змаганнями. Поки існує активний цивільний дискурс, що містить продумані статті та підтримуючі статистичні дані про те, що ці АІ навчаються, то нам, напевно, краще дозволити комп'ютерний пошук та підбити підсумки для цих позицій. Вони будуть робити це краще і більш ефективно, ніж людина може.

Проте, якщо ми повинні будь-коли приховати довіру до такого голосу, не вдаючись до реалізації системи стримувань і противаг, яка гарантує, що AI не є просто ехо-камерою для помилкової людської думки, а точніше, навмисне упередженою елітою або корпорацією бажаючи отримати певну ставку для себе, то ми обов'язково почнемо рухатись до загибелі. Неслучно, IBM не змогла продемонструвати жодну сильну систему стримувань і противаг для проекту Debater, або відкрити вихідний код, що за ним, що підриває більшу довіру до системи. Замість того, щоб надихати нашу довіру, я вважаю, що нам слід звернутися до проекту Debater з перебільшенням обережності та вимагати більш суворої методології, перш ніж перетворити її на свободу на будь-яких реальних дебатах.

Читати далі

Chromebook отримують частку ринку, оскільки освіта переходить в Інтернет

Продажі Chromebook зросли в пандемії, продажі зросли на 90 відсотків, і очікується майбутнє зростання. Це ставить певні виклики для таких компаній, як Microsoft.

SpaceX запускає бета-версію "Краще від нічого"

Тим нечисленним щасливчикам, які отримали запрошення спробувати послугу, доведеться заплатити неабияку попередню вартість, і швидкість руху не вражає. Все-таки це супутникове Інтернет нового покоління.

Захистіть свою конфіденційність в Інтернеті за допомогою 5 найкращих мереж VPN

Зараз інвестування в VPN - це розумний вибір, але можливостей величезна. Щоб трохи звузити ситуацію, ми зібрали п’ять наших улюблених споживчих послуг.

Астрономи виявили планету-шахраю, яка блукає по Галактиці, розміром із землю

Астрономи ідентифікували понад 4000 екзопланет, що обертаються навколо інших зірок, але лише кілька "планет-шахраїв", які блукають по галактиці без зірки, щоб подзвонити додому. Нове дослідження стверджує, що помітило один із цих світів, і це може бути маленький кам’янистий світ, такий як Земля.