Если ваша веб-история влияет на ваш кредитный рейтинг? МВФ думает так

Подъем Fintech Services и Cryptotogurrens изменили современный банкинг несколькими способами, и банки сталкиваются с увеличением количества проблем, так как различные сторонние платежные процессоры вставляют себя между финансовыми учреждениями и их традиционными клиентами. Системы кредитных оценок, используемые в широком смысле в США и Европе, основаны на так называемой «жесткой» информации - платежами счета, платежами, а также насколько вашим текущим кредитным лимитом вы постукиваете.

Исследователи указывают, что так называемые «жесткие» кредитные баллы имеют две значительные проблемы. Во-первых, банки, как правило, уменьшают доступность кредита во время спада, что является когда люди больше всего нуждаются в помощи. Во-вторых, это может быть трудно для компаний и частных лиц без кредитных историй, чтобы начать создавать. В системе есть немного уловка-22, в том, что то, что вам нужно убедить учреждение кредитовать, что деньги - это кредитная история, у вас нет, потому что никто не будет займет вас деньги.

Выявляли два недостатка в существующей системе, авторы пишут:

Повышение Интернета позволяет использовать новые типы нефинансовых данных клиентов, таких как истории для просмотра и поведения онлайн-покупок, или рейтинги клиентов для онлайн-поставщиков.

Литература предполагает, что такие нефинансовые данные ценны для принятия финансовых решений. Берг и др. (2019) Показать, что простая в целях собирает информацию, такую ​​как так называемый «цифровой след» (поставщик электронной почты, мобильный перевозчик, операционная система и т. Д.), а также традиционные кредитные баллы при оценке риска заемщика. Более того, существуют взаимодополняющиеся между финансовыми и нефинансовыми данными: объединение кредитных баллов и цифровой след дополнительно улучшает прогнозы по умолчанию. Соответственно, включение нефинансовых данных может привести к значительным повышениям эффективности в финансовом посредничестве.

В сообщении в блоге, опубликованном на веб-сайте МВФ, авторы также пишут: «Недавние исследовательские документы, которые когда-то работали по искусственному интеллекту и изучению машин, эти альтернативные источники данных часто превосходят традиционные методы оценки кредита».

Однако так много авторов этой статьи знают о банковских системах и финансах, они явно не в курсе последних в исследованиях AI. Это плохое представление в целом, но сейчас это действительно ужасная идея.

Первая главная проблема с этим предложением заключается в том, что нет никаких доказательств AI способен на эту задачу или что она скоро будет в ближайшее время. В интервью с опекуном ранее этим летом Microsoft AI Исследователь Kate Crawford имел несколько резких замечаний для нынешней реальности искусственного интеллекта, несмотря на работу на один из лидеров в этой области: «АИ не является ни искусственным, ни умным. Он сделан из природных ресурсов, и именно люди выполняют задачи, чтобы системы были автономными ».

Спросил о конкретной проблеме предвзятости в АИ, Кроуфорд сказал:

Время и снова, мы видим эти системы, производящие ошибки - женщины предложили меньше кредитных алгоритмов кредитоспособности, черные лица, заблудимые - и ответ был: «Нам просто нужно больше данных». Но я пытался посмотреть эти более глубокие логики классификации, и вы начинаете видеть формы дискриминации, а не только когда применяются системы, но в том, как они построены и обучены увидеть мир. Обучающие наборы данных, используемые для программного обеспечения для машин, которые случайно классифицируют людей в одну из двух покровений; Этот ярлык людям в соответствии со своим цветом кожи в одну из пяти расовых категорий, и какую попытую, основываясь на том, как люди выглядят, назначать моральный или этический характер. Идея, что вы можете сделать эти определения на основе внешнего вида, оказывают темное прошлое, и, к сожалению, политика классификации запечена в подложки АИ.

Это не только мнение одного человека. Ранее Gartner ранее прогнозировал, что 85 процентов проектов AI до 2022 года «доставят ошибочные результаты из-за предвзятости в данных, алгоритмах или командах, ответственных за управление их». Недавний Hackithon Twitter нашел доказательство того, что алгоритм фоторемушения фотографии сайта неявно председался против пожилых людей, людей с ограниченными возможностями, черными людьми и мусульманами, и она часто обрезала их из фотографий. Twitter с момента прекращения с использованием алгоритма, поскольку такие проблемы предвзятости не являются наиболее интересными.

В то время как мои собственные исследования далеко не удалены из Fintech, я провел последние 18 месяцев, экспериментирующих с AI-эфишными инструментами, так как обычные читатели WFOOJJAEC знают. Я использовал TOPAZ Video Esvance Ai многом, и я также экспериментировал с некоторыми другими нервными сетями. Хотя эти инструменты способны доставлять замечательные улучшения, это редкое видео, которое может быть просто заставлено в TVEAI с ожиданием, что золото прибудет на другую сторону.

Вот кадр 8829 от звездного хода: Deep Space Девять эпизод «Вызов». Качество рамки является разумным, учитывая отправной точкой источника, но у нас есть явная ошибка перед лицом Джаджия Дакс. Это выводится из одной модели, и я смешаю вывод нескольких моделей для улучшения ранних сезонов DS9. В этом случае каждая модель, которую я пытался, ломал на этой сцене так или иначе. Я показываю выход из среднего качества Artemis в этом случае.

Это специфическое искажение происходит один раз во всем эпизоде. Большинство моделей Topaz (и каждая модель без топаза, которую я проверен) имел эту проблему, и она оказалась устойчивой к ремонту. Не очень много пикселей, представляющих ее лицо, и оригинальное качество MPEG-2 низкое. Нет ни одной модели AI, которая правильно лечит целый эпизод S1 - S3, который я уже нашел, но это, безусловно, худшее искажение во всем эпизоде. Это также только на экране на несколько секунд, прежде чем она движется, и ситуация улучшается.

Лучший ремонтный выход, который мне удалось выглядеть так, используя модель Proteus TVEAI:

Есть причина, по которой я использую редактирование видео, чтобы поговорить о проблемах в FINTECH: AI нигде еще не идеально, в любом поле обучения. «Исправление» выше является несовершенным, но требуется часы тщательного тестирования для достижения. За кулисами того, что различные компании самодовольно называют «АИ», - это множество людей, выполняющих ужасное много работы. Это не значит, что не существует реального достижения прогресса, но эти системы нигде не так безотгредили, поскольку цикл обмана, сделавшими их.

Прямо сейчас мы находимся в точке, где приложения могут производить некоторые удивительные результаты, даже до точки изготовления подлинных научных открытий. Однако люди, однако, все еще глубоко участвуют в каждом этапе процесса. Даже тогда есть ошибки. Исправление этой конкретной ошибки требует подстановки выхода из совершенно другой модели в течение длительности этой сцены. Если бы я не смотрел на эпизод тщательно, я мог бы вообще пропустить эту проблему. АИ имеет подобную проблему в целом. Компании, которые боролись с предвзятом в своих сетях AI, не намеревались вкладывать его там. Он был создан из-за предубеждений в основных данных, устанавливаемых сами. И проблема с этими наборами данных заключается в том, что если вы не изучите их с осторожностью, вы можете заработать, думая, что ваш выход полностью состоит из кадров, таких как ниже, в отличие от сцены повреждения выше:

Даже если компонент AI этого уравнения был готов полагаться, вопросы конфиденциальности являются еще одной серьезной проблемой. Компании могут быть экспериментированы с отслеживанием различных аспектов «мягкого» поведения потребителей, но идея связывания вашего кредитного рейтинга в истории вашей сети очень похоже на социальный кредитный рейтинг, который теперь присваивается каждому гражданину Китая. В этой стране, сказав неправильные вещи или посещающие неправильные веб-сайты, могут привести к тому, что члены семьи отказывают за кредитами или доступом к определенным социальным мероприятиям. Хотя система предполагается не в том, что драконий, это все еще шаг в неправильном направлении.

Соединенные Штаты не имеют ни одной юридической базы, которые будут необходимы для развертывания системы кредитоспособности, подобную этой. Любой банк или финансовое учреждение, которое желает использовать AI для принятия решений, касающихся кредитоспособности заявителей на основе их браузера, и истории покупок необходимо регулярно проверяться для предчувствия против любой группы. Исследователи, которые написали этот документ для МВФ, разговаривают о Hovering Highs Shoppores, не считая, что многие люди используют Интернет для покупки вещей, которые они слишком смущены, чтобы ходить в магазин и купить. Кто решает, какие магазины и продавцы считают и которые нет? Кто смотрит на данные, чтобы гарантировать, что интенсивно неловкая информация не утечка, либо нарочно, ни хакерами в целом?

Тот факт, что небанковские финансовые учреждения могут быть на джоне, чтобы использовать некоторые из этих данных (или уже его использование) - это не причина, чтобы это позволить. Это причина, чтобы оставаться далеко от указанных организаций. Ай не готов к этому. Наши законы о конфиденциальности не готовы к этому. Последовательные обмен сообщениями от уважаемых, трезвых исследователей, работающих в поле, заключается в том, что мы нигде не готов превратить такие жизненные соображения в черный ящик. Авторы, которые написали этот документ, могут быть абсолютными волшебниками банковского дела, но их оптимизм о ближайшего терминского состояния сетей AI неуместно.

Немного вещей важнее в современной жизни, чем кредитная и финансовая история, и это достаточно причин, чтобы они были связаны с исключительно медленно, где занимается АИ. Дайте это десятилетие или два и проверьте, или мы потратим на следующие несколько десятилетий, убирающие несправедливости, нанесенные против различных людей буквально без вины.