Угроза ИИ для демократии
Прогуливаясь по лиственным пригородам Остина, штат Техас, можно простить за то, что демократия находится в надежном состоянии здоровья. Деревья меняют цвет, и мир выглядит в значительной степени по порядку, результат неизбежных сил, ведущих к еще большему уровню комфорта, роскоши и эффективности. Но, как историки любят напоминать нам, в демократии нет ничего неизбежного. Другие, менее справедливые системы правления исторически были гораздо более репрезентативными для человеческих дел.
И демократический либеральный порядок никогда не был более хрупким. У демократий всегда были свои оппоненты, но в первый раз в истории главная угроза для него связана с переходом технологических песков, а не голодающих голодом деспотов. Поскольку некоторые из более проницательных из нас начали кричать с крыш, подъем сильного искусственного интеллекта мог бы отправить спутник демократии, разгаданный по полу.
В отличие от деспотов, которые всегда кружат коридоры власти, технологические изменения, такие как искусственный интеллект, редко можно отбросить или содержать. Вместо технологий управления политикой это технология, управляющая политическими системами. Попытайтесь представить себе гибель церкви как места европейской власти без появления печатного станка и последующей «демократизации» знаний. Как может отличаться наш глобальный политический порядок, если бы силы Оси изобрели атомную бомбу перед союзниками. В подобном ключе искусственный интеллект, по-видимому, может содержать в себе зародыш демократии или, по крайней мере, ее радикальную трансформацию. Чтобы понять это, не требуется большой прыжок воображения или математической гимнастики, а простая и простая цепочка вычетов.
Демократический процесс требует, по крайней мере, двух основных механизмов. Первый - это справедливый и прозрачный метод сбора и подсчета голосов людей. Второй - электорат, способный взвешивать проблемы дня без чрезмерного принуждения. Эти двойные требования - это небосвод, на котором растет дерево демократии, и без которого оно неизбежно завянет. Искусственный интеллект в настоящее время распилен на обеих этих конечностях. Если мы хотим поддерживать какой-либо справедливый и функциональный демократический порядок, необходимо принять необходимые решения.
Обращаясь к первому из этих основополагающих требований, рассмотрим трудность защиты избирательных ящиков от внешних манипуляций. На первый взгляд это имеет мало общего с искусственным интеллектом, поскольку набивка бюллетеней и другие средства подрыва кабины для голосования всегда были повсеместными. Однако теперь, когда голосование становится все более цифровым, угроза взломанного урны уходит больше, чем когда-либо. Даже Facebook с его гигантским бюджетом безопасности оказался уязвимым для хакеров. Насколько же более уязвимым является муниципальный бюджетный стенд на западе штата Техас, где работают добровольцы? И все чаще изобретательность такого взлома будет зависеть не от людей, а от искусственного интеллекта. Это может показаться странным для тех, кто привык думать об ИИ строго с точки зрения сопоставления образцов и «контролируемого обучения», что до недавнего времени являлось состоянием дел в ИИ.
С появлением сильного обучения подкреплению, созданного мастерами DeepMind и OpenAI, целенаправленный стратегический ИИ теперь очень реальный. Разница - одна из категорий, а не приращений. В то время как контролируемая система обучения опирается на метрики, подаваемые ей людьми, чтобы придумать значимые прогнозы и лишена всех возможностей для целевого стратегического мышления, системы обучения подкрепления обладают открытой функцией полезности и могут постоянно разрабатывать стратегии ее выполнения , Если это звучит знакомо, это потому, что именно мы, люди, делаем большую часть наших бодрствующих жизней.
В результате система обучения подкрепления может быть поставлена под вопрос проникновения в систему голосования за рубежом. Затем он может неустанно работать, чтобы выполнить эту задачу без какого-либо контроля над людьми. При этом он, вероятно, придумает стратегии, которые ни один человеческий хакер никогда не думал, и никто из сотрудников по безопасности в области безопасности никогда не думал об этом. Стратегии, связанные с такими умными вторжениями, не будут иметь человеческого происхождения, а работают ИИ.
Многие из наших человеческих экспертов имеют сильный стимул уволить такие «умные, чем человеческие» системы. В конце концов, когда у вас есть дефицитный товар, «умники», и он внезапно становится менее скудным, отрицание можно рассматривать как лучшее из плохой ситуации. Поначалу, по крайней мере, многие будут считать опровержения этих скептиков как евангелие просто потому, что считают, что эти эксперты более умны, чем они сами, и еще не видели противоречивых доказательств. Такое высокомерие теперь прокладывает путь для шокирующего пробуждения, поскольку наш мир начинает объединяться с нечеловеческими интеллектуалами, которые во многих случаях намного превысят наши собственные. Ни в коем случае не обнадеживает тот факт, что главные лидеры многих демократий кажутся адскими, склоняющимися к отрицанию реальности этой ситуации, граничащей с тем, что по очереди ощущается как умышленное пренебрежение или, в худшем случае, преступная подрывная деятельность.
Если бы все это не было достаточно проблематичным, искусственный интеллект также серьезно бросил вызов второму требованию демократии, чтобы люди могли голосовать по вопросам дня без чрезмерного принуждения. Логика этого - немного более тонкая, но не менее ужасная. Вместо того, чтобы думать о урне для голосования как о центре атаки ИИ, теперь подумайте о человеческом мозге как о цели. Люди - это предсказуемое животное в целом. Сделайте большой бюджетный фильм с супергероем Marvel, вытесняющим злой военно-промышленный комплекс, и люди будут стекаться к нему, как мухи к экскрементам. Если вы серьезно сомневаетесь в своей собственной способности неосознанно влиять, просмотрите литературу по психологическому праймированию для подкрепленной дозой реальности.
Многие из наших самых основных убеждений в мире, убеждения, которые направляют нашу руку при голосовании, бессознательно формируются и легко манипулируются. Хотите, чтобы электорат испугался и попросил их голосовать консервативно? Особенные образы мигрантского каравана, якобы объединяющегося с «беззаконными и преступными» элементами, идущими в сторону страны. Хотя это ничего нового, и политики уже давно используют такие методы прайминга, чтобы нажимать на их повестки дня, что нового - это умения, к которым ИИ может повлиять на уравнение. Требуется мало поп-психологии, чтобы разгадать тяжелые манипуляции с нашей нынешней породой политического демагога, которые, тем не менее, оказались достаточно эффективными, чтобы посадить некоторых сомнительных персонажей на месте власти.
Теперь рассмотрим политическую рекламную кампанию, разработанную ИИ, которая лучше понимает эмоциональные кнопки каждого человека, чем они сами понимают. В таком мысленном эксперименте демократия становится не чем иным, как эмоциональным кукольным представлением, заимствовать фразу у историка Юваля Харари. Таковы масштабы проблемы, с которой сейчас сталкиваются демократия во всем мире. Какими бы ни были решения этих проблем, они, вероятно, бросят вызов нашим самым основным представлениям о том, что значит быть умным, сознательным и обладающим свободной волей.
Для тех, кто хочет путешествовать еще дальше по кроличьей дыре, эти и связанные с ними темы будут рассмотрены в следующей книге автора об укреплении обучения и его социально-экономических последствиях.
Читать далее
Демократы вводят законопроект, чтобы восстановить правила сетевого нейтралитета
Новое законодательство может вернуть правила сетевого нейтралитета эпохи Обамы, а также предоставить Федеральной комиссии по коммуникациям (FCC) больше полномочий над услугами широкополосной связи.
Калифорнийские демократические пещеры для AT & T, выкапывают законопроект о чистом нейтралитете
Калифорнийский демократ разрушил чистые нейтральные счета перед государством по просьбе AT & T, других интернет-провайдеров.
Капитализм не принес демократию в Китай, но он связывает весь мир с ки
Открытие мировых рынков для Китая еще в 2001 году мало что сделало для обязательств страны перед демократией, но недавние события с Blizzard и НБА показали, что это чудесно получается для китайских цензоров, которые хотят контролировать СМИ и контент, производимый в Соединенных Штатах. и в других местах.