AI Загроза демократії
Прогулянки по листкових околицях Остіна, штат Техас, можна було б пробачити за те, що демократія перебуває в надійному стані здоров'я. Дерева змінюють колір, і світ виявляється в значній мірі в порядку, результат неминучих сил, що призводить до все більшого рівня комфорту, розкоші та ефективності. Але, як історики люблять нагадувати нам, демократії немає нічого неминучого. Інші, менш рівноправні системи влади, історично були набагато більш репрезентативними для людських справ.
І демократичний ліберальний порядок ніколи не був більш крихким. Демократії завжди мали своїх супротивників, але вперше в історії головна загроза їй виникає за рахунок переміщення технологічних пісків, а не сильних голодних деспотів. Оскільки деякі з найбільш сприйнятливих серед нас почали кричати з дахів, підйом сильного штучного інтелекту цілком могло б послати котушку демократії, розійшлися по всій підлозі.
На відміну від деспотів, які завжди обводили коридори влади, технологічні зміни, такі як штучний інтелект, рідко можуть бути відкинуті або містяться. Замість політики управління технологією це технологія, яка управляє політичними системами. Спробуйте уявити занепад церкви як місця європейської влади без підйому друкарської машини та її подальшої "демократизації" знань. Наскільки відрізнятиметься наш глобальний політичний порядок, якщо б осі сили винайшли атомну бомбу перед союзниками. У аналогічному плані штучний інтелект, імовірно, містить у собі зародок демократичних краху або, принаймні, його радикальні перетворення. Щоб зрозуміти це, не вимагає жодного великого стрибка уяви або математичної гімнастики, а просто просту і прямолінійну ланцюжок дедукції.
Демократичний процес вимагає щонайменше двох фундаментальних механізмів. Перший - це чесний і прозорий спосіб збору та підрахунку голосів людей. Другий - електорат, здатний зважити питання дня без надмірного примусу. Ці подвійні вимоги - це твердиня, на якій зростає дерево демократії, і без якого воно обов'язково впаде. Штучний інтелект зараз розпилюється на обох кінцівок. Якщо ми хочемо підтримати якийсь чесний та функціональний демократичний лад, потрібні необхідні рішення.
Звертаючись до першого із цих основних вимог, розглянемо труднощі у захисті виборчих скриньок з зовнішньої маніпуляції. На перший погляд, це мало пов'язано з штучним інтелектом, оскільки наповнення бюлетенів та інші способи підриву кабіни для голосування завжди були повсюдними. Проте зараз, коли голосування дедалі частіше набирає цифровий характер, загроза зламаної виборчої скриньки зростає більше, ніж будь-коли. Навіть Facebook, який має високий бюджет безпеки, виявився уразливим для хакерів. Тож наскільки набагато вразливішою є кабіна для голосування, що фінансується муніципальними органами, у сільській частині Техасу в штаті волонтери? І все більше, винахідливість за такими зломів буде задумана не людьми, а швидше штучним інтелектом. Це може здатися дивним для тих, хто звик думати про AI строго з точки зору відповідності шаблону та "контрольованого навчання", яке до недавнього часу становило стан справ в AI.
З появою значного підсилення навчання, започаткованого майстрами в DeepMind та OpenAI, цілеспрямований стратегічний AI зараз дуже реальний. Різниця - це одна з категорій, а не збільшення. Хоча контрольована система навчання спирається на метрики, що подається їй людьми, для того, щоб виробити значущі передбачення та бракує всіх можливостей для цілеспрямованого стратегічного мислення, системи навчання зміцнення мають функцію відкритої корисності і можуть постійно стратегічно вирішувати, як це виконувати . Якщо це здається знайомою, це тому, що саме ми, люди, робимо більшу частину нашого пробудження.
Висновок полягає в тому, що систему навчання для зміцнення може поставити завдяки проникненню системи голосування іноземної держави. Тоді він може працювати невтомно, щоб досягти цієї мети без нагляду за людьми. Таким чином, це, ймовірно, придумати стратегії, яких ніхто з людей, які хорек ніколи не хотів спробувати, і ніхто з аналітиків з безпеки людини ніколи не думав, щоб їх зміцнити. Стратегії таких розумних вторгнень не матимуть людського походження, а робота AI.
Багато наших експертів з питань людського потенціалу має сильний стимул звільнити такі "розумніші, ніж людські" системи. Врешті-решт, коли ви володієте дефіцитним товаром, "вихлює", і воно раптом стає менш дефіцитним, відмову можна вважати кращим з поганої ситуації. Спочатку, принаймні, багато хто візьме спростування цих снів як євангелію, просто тому, що вони вважають, що ці експерти розумніші, ніж самі, і ще не бачать суперечливих доказів. Такий хабріс тепер прокладає шлях до шокуючого пробудження, оскільки наш світ починає об'єднуватися з нелюдськими розвідками, що в багатьох випадках буде набагато перевищувати наше. Не найменше заохочує, що головні лідери багатьох демократій виглядають пекло, намагаючись заперечувати реальність цієї ситуації, межуючи з тим, що по черзі сприймає навмисне зневагу або, найгірше, кримінальну підрив.
Якщо все це було недостатньо проблематично, штучний інтелект також серйозно кине виклик другій вимозі демократії, щоб люди могли голосувати з питань дня без надмірного примусу. Логіка позаду цього є трохи витонченою, але не меншою. Замість того, щоб думати про виборчі скриньки в центрі уваги атаки ІІ, подумайте про людський мозок як про ціль. Люди - це передбачуване тварина в цілому. Зробіть великий бюджетний фільм з супергероєм Marvel, який витіснить злий військовий промисловий комплекс, і люди будуть стікатися до неї, як мухи до екскрементів. Якщо у вас серйозно є сумніви щодо вашої здатності несвідомо впливати, перегляньте літературу про психологічне зародження для прикріплення дози реальності.
Багато хто з наших найважливіших поглядів на світ, вірування, які направляють нашу руку при голосуванні, несвідомо сформовані та легко маніпулювати. Хочете, щоб електорат злякався і спонукав їх голосувати консервативно? Особливості зображення міграційного каравану нібито об'єднуються з "незаконними та кримінальними" елементами, що йдуть до країни. Хоча це не є новим, і політики вже скористалися такими методами пралінгів, які довгий час натискають свої порядок денний, новими є ті смаки, до яких AI може принести на рівняння. Для того, щоб розгадати важкі маніпуляції нашої нинішньої породи політичного демагогу, потрібна маленька попсихілогія, яка, проте, виявилась досить ефективною, щоб висадити деяких сумнівних персонажів на місці влади.
Тепер розглянемо політичну рекламну кампанію, сформульовану AI, яка розуміє емоційні кнопки кожної людини краще, ніж самі вони розуміють. У такому думковому експерименті демократія стає не більш ніж емоційним ляльковим шоу, щоб взяти фразу історика Юваля Харарі. Такою є сфера проблеми, яка зараз стоїть перед демократіями у всьому світі. Незалежно від вирішення цих проблем, вони, ймовірно, кидають виклик нашим найважливішим уявленням про те, що означає бути розумним, усвідомленим і володіти вільною волею.
Для тих, хто хоче подорожувати далі вниз за кроликом, ці та пов'язані теми будуть розглянуті в майбутній книзі автора про навчання підкріплення та його соціально-економічні наслідки.
Читати далі
Чому чіп M1 від Apple загрожує Intel та AMD
Власна історія Intel говорить про це, і AMD повинна дуже серйозно поставитися до нового SoC M1 від Apple.
META загрожує витягнути Instagram і Facebook з Європи над обмін даними
META розповів ЄС, якщо він не може зробити орієнтацію на оголошення, це також може просто назвати це на день.
Росія загрожує прекрасній Вікіпедії за "фальшиву інформацію"
Загроза є новою спробою підтримувати контроль над інформацією, що досягає російських громадян.
Потенційна дослідницька виготовлення бомби загрожує амілоїдною теорією хвороби Альцгеймера
Вражаючий звіт з’явився, звинувачуючи престижного дослідника Альцгеймера з системних, навмисних дослідницьких шахрайств. Результати цього розслідування можуть перешкодити амілоїдній гіпотезі в цілому.