IBM Project Debater установила этап для нового вида гражданского общества

Возможно, мы слишком привыкли к истории об искусстве AI в последнее время, поскольку открытие на прошлой неделе проекта IBM Debug Project едва ли вызвало рябь в новостных комнатах по всей территории Соединенных Штатов. На wfoojjaec, конечно, оказалось немного голов. Могло ли быть так, как заканчивается антропоценовый возраст - не с треском, а с корпоративным ИИ, составляющим фрагментированные аргументы в пользу телемедицины? Таково было положение дел, когда IBM Project Debater столкнулась с двумя израильскими риториками мирового класса, чтобы обсудить такие спорные темы, как финансирование освоения космоса и изменение сферы услуг здравоохранения.

По общему мнению, вербальный репертуар ИИ не был эквивалентен его человеческим коллегам. И все же большинство присутствующих проголосовали за ИИ за более убедительный голос в комнате. Частью этого может быть слепое доверие, которое мы все больше уступаем компьютерам: если бы я разработал математику за каждый маршрут, который предлагал мне Google Maps во время поездки, я бы потратил весь день на калькулятор. Вместо этого я воспринимаю это как статью веры, которая предложила мне лучшее решение. И в этом может быть большая опасность от Project Debater - не то, что мы в конечном итоге уступим бремя принятия важных решений на компьютеры, что выглядит все более неизбежным, но мы будем слишком доверять таким системам, прежде чем они заслуживают внимания из этого.

Независимо от того, что можно сказать о позициях, поддерживаемых Project Debater во время устных аргументов, одно можно сказать точно: это было не без предубеждений. Большая часть этого предвзятости исходила от людей, которые генерировали данные, на которых он был обучен. Мусор, мусор, как говорится в кругах программирования. Если статистические наборы данных, на которых он сформировал свои мнения, не были собраны с осторожностью, или если прочитанные человеком статьи, которые он читал, содержали ошибочную логику или другие ошибки, то это отразилось бы на предложениях, которые она составляла. Никакое количество рытья не показало, что Project Debater был чем-то вроде стратегической суперинтеллекции, способной рассуждать о самогенерируемой мировой модели. Не то, чтобы такие продвинутые ИИ не были на горизонте; они, как описано в следующей книге, я пишу об усилении обучения. Скорее всего, проектор Debater, похоже, расширил платформу IBM Watson - поиск и обобщение тысяч статей, созданных человеком. Это немалый подвиг, и я уже полагаю, что последствия этой ограниченной способности будут распространяться повсеместно, что потенциально может опрокинуть весь наш метод публичного дискурса.

Большая часть того, что проходит для гражданского общества в развитом мире, опирается на устные аргументы - будь то политики, обсуждающие телевидение, или адвокаты, выступающие в Верховном суде. Если компьютер может выполнять эти функции лучше, чем человек, а после Project Debater, похоже, они когда-нибудь могут, то есть все основания полагать, что они начнут собирать человеческую конкуренцию. До тех пор, пока существует динамичный гражданский дискурс, создающий хорошо продуманные статьи и поддерживающие статистические данные, которые обучаются этим ИИ, тогда нам, вероятно, лучше дать компьютерный поиск и подвести итоги для этих позиций. Они будут делать это лучше и эффективнее, чем человек.

Однако, если мы когда-либо ставим слепое доверие к такому голосу, не выполняя систему сдержек и противовесов, которая обеспечивает ИИ, является не просто эхо-камерой для ошибочных мнений людей или, что еще хуже, преднамеренно предвзятой элитой или корпорацией желая обезопасить себя, тогда мы обязательно отправимся в путь к погибели. Тревожно, что IBM не смогла продемонстрировать какую-либо сильную систему сдержек и противовесов для Project Debater, или с открытым исходным кодом, позади этого кода, подрывая большую часть достоверности системы. Вместо того, чтобы вдохновлять наше доверие, я считаю, что мы должны подходить к Project Debater с излишней осторожностью и требовать более строгой методологии, прежде чем разворачивать ее на любых реальных дискуссиях.