Чи повинна ваша історія веб-сторінки впливає на ваш кредитний рахунок? МВФ думає так

Підвищення послуг FINTECH та CryptoSurnes змінив сучасну банківську справу, а банки стикаються з більшою кількістю проблем, оскільки різні сторонні платіжні процесори враховують себе між фінансовими установами та їх традиційними клієнтами. Системи кредитування, що використовуються широко в США та Європі, базуються на так званій "жорсткій" інформаційно-платіжним платежам, платіжним заглушкам, і скільки до вашого поточного кредитного ліміту ви натискаєте.

Дослідники вказують на те, що так звані "жорсткі" кредитні оцінки мають дві важливі проблеми. По-перше, банки, як правило, зменшують доступність кредиту під час спаду, що є, коли люди найбільше потребують допомоги. По-друге, це може бути складним для компаній та людей без кредитних історій, щоб почати створювати один. У системі є трохи вилов-22, в тому, що вам потрібно, щоб переконати інститут кредитувати вас гроші - це кредитна історія, яку ви не маєте, тому що ніхто не буде кредитувати вам гроші.

Визначивши два недоліки в існуючій системі, автори пишуть:

Підйом Інтернету дозволяє використовувати нові типи нефінансових даних клієнтів, таких як історія перегляду та інтернет-покупок людей, або рейтинги клієнтів для онлайнових постачальників.

Література припускає, що такі нефінансові дані є цінними для прийняття фінансових рішень. Berg et al. (2019 р.) Показати, що простий у зборі інформації, таких як так званий "цифровий слід" (провайдер електронної пошти, мобільний оператор, операційна система тощо), а також традиційні кредитні оцінки при оцінці ризику позичальника. Крім того, існують комплементарності між фінансовими та нефінансовими даними: поєднання кредитних балів та цифрового слід, додатково покращує прогнози за замовчуванням кредиту. Відповідно, включення нефінансових даних може призвести до значної ефективності прибутку у фінансовому посередництві.

У блозі, опублікованому на веб-сайті МВФ, автори також пишуть: "Останні дослідницькі документи, які колись працювали за допомогою штучного інтелекту та машинного навчання, ці альтернативні джерела даних часто виникають, ніж традиційні методи оцінки кредитів".

Однак багато авторів цього документу знають про банківські системи та фінанси, вони явно не актуальні за останніми дослідженнями в АІ. Це погана ідея взагалі, але зараз це дуже страшна ідея.

Перша основна проблема з цією пропозицією є відсутність доказів АІ, не здатний до цього завдання або що це буде в будь-який час. В інтерв'ю з опікуном раніше влітку Microsoft Ai дослідник Кет Кроуфорд мав деякі суворі зауваження щодо поточної реальності штучного інтелекту, незважаючи на роботу для одного з лідерів у цій галузі: "АІ не є ні штучним, ні розумним. Він виготовляється з природних ресурсів, і саме люди, які виконують завдання, щоб зробити системи автономними. "

На питання про конкретну проблему упередженості в АІ, Кроуфорд сказав:

Час і знову, ми бачимо ці системи, що виробляють помилки - жінки, які пропонують менше кредиту за допомогою алгоритмів кредитної гідності, чорні обличчя неправильно - і відповідь: "Ми просто потребуємо більше даних". Але я намагався подивитися на ці глибшу логіку класифікації, і ви починаєте бачити форми дискримінації, а не лише тоді, коли системи застосовуються, але в тому, як вони будуються та навчені бачити світ. Набори даних, що використовуються для програмного забезпечення для машинного навчання, що випадково класифікують людей до одного з двох статей; Це ярлик людей за кольором шкіри в одну з п'яти расових категорій, і яка спроба, заснована на тому, як виглядають люди, призначити моральний або етичний характер. Ідея, яку ви можете зробити ці визначення на основі зовнішнього вигляду, має темне минуле, і, на жаль, політика класифікації стала запечена на підкладки АІ.

Це не просто думка однієї людини. Gartner раніше проектував, що 85 відсотків проектів AI до 2022 року "доставлять помилкові результати через упередження в даних, алгоритмах або команди, відповідальних за керування ними". Нещодавній Twitter Hackathon виявив підтвердження того, що алгоритм зйомки веб-сайту було неявно упередженим проти людей похилого віку, інвалідів, чорних людей та мусульман, і він часто обробив їх з фотографій. Twitter з тих пір припиняється за допомогою алгоритму, оскільки ці види проблем упередженості немає нікого інтересу.

Хоча мої власні дослідження далекі від FINTECH, я провів останні 18 місяців експериментуючи з інструментами AI-Powered, як знають звичайні читачі Wfoojjaec. Я використав Topaz Video Enhance Ai велику справу, і я також експериментував з деякими іншими нервовими сітками. Незважаючи на те, що ці інструменти здатні доставляти чудові вдосконалення, це рідкісне відео, яке можна просто відчастись у TVEAI з очікуванням, що золото прибуде з іншого боку.

Ось рама 8829 від Star Trek: глибокий простір дев'ять епізодів "Defiant". Якість кадру обґрунтовано, враховуючи вихідну точку джерела, але у нас є помилка погляду в обличчя Jadzia Dax. Це виводить з однієї моделі, і я змішую вихід декількох моделей, щоб покращити ранні сезони DS9. У цьому випадку кожна модель, яку я намагався розбитися на цій сцені так чи інакше. Я показую випуск з якості середньої якості Artemis у цьому випадку.

Це конкретне спотворення відбувається один раз у всьому епізоді. Більшість моделей TOPAZ (і кожна модель, яку я тестували), мав цю проблему, і вона виявилася стійкою до ремонту. Там не дуже багато пікселів, що представляють її обличчя, а оригінальна якість MPEG-2 є низькою. Немає жодної моделі AI, яка правильно лікує весь епізод S1 - S3, який я знайшов ще, але це є найгіршим спотворенням у всьому епізоді. Це також лише на екрані протягом декількох секунд, перш ніж вона рухається, і ситуація покращується.

Найкращий результат ремонту, який я керував таким, використовуючи модель Proteus TVEAI:

Є причина, чому я використовую редагування відео, щоб говорити про проблеми в Fintch: AI ніде не досконалий ще, у будь-якій галузі навчання. "FIX" вище є недосконалою, але необхідними годинами ретельного тестування для досягнення. За сценами того, що різні компанії самовдоволені називають "AI", - це багато людей, які виконують жахливу роботу. Це не означає, що не існує реального прогресу, але ці системи ніде не порушені, оскільки цикл галасу вийшов їх.

Зараз ми знаходимося в точці, де додатки можуть виробляти деякі дивовижні результати, навіть до того, щоб зробити справжні наукові відкриття. Люди, однак, все ще глибоко беруть участь у кожному кроці процесу. Навіть тоді є помилки. Закріплення цієї конкретної помилки вимагає заміни виходу з зовсім іншої моделі протягом тривалості цієї сцени. Якщо я не був ретельно спостерігаючи епізод, то я, можливо, не пропустив проблему взагалі. Ai має аналогічну проблему взагалі. Компанії, які боролися з упередженням у своїх мережах AI, не мали наміру покласти його там. Він був створений через упередження в основних даних, що встановлюються. І проблема з цими наборами даних полягає в тому, що якщо ви не вивчаєте їх з обережністю, ви можете задушити, думаючи, що ваш випуск складається повністю з кадрів, як нижче, на відміну від сюжету збитків вище:

Навіть якщо компонент AI цього рівняння був готовий покладатися, питання конфіденційності є ще однією головною проблемою. Компанії можуть експериментувати з відстеженням різних аспектів «м'якого» споживчої поведінки, але ідея пов'язувати ваш рахунок кредиту вашої історії веб-дуже схожа на соціальному рахунок кредиту в даний час присвоєного кожен громадянин Китаєм. У цій країні, кажучи неправильні речі або відвідування неправильних веб-сайтів, можуть призвести до того, що члени сім'ї відмовляються за кредитами або доступом до певних соціальних подій. Незважаючи на те, що система передбачається не така драконівська, це ще крок у неправильному напрямку.

Сполучені Штати не мають жодної з правової бази, яка не повинна була розгорнути таку систему кредитного моніторингу. Будь-який банк або фінансова установа, яка бажає використати AI для прийняття рішень щодо кредитоспроможності заявників, виходячи з їхнього браузера та історії по магазинах, необхідно регулярно перевірятись для упередження щодо будь-якої групи. Дослідники, які писали цей документ для МВФ, говорять про історію покупки людей, не вважаючи, що багато людей використовують Інтернет для покупки для речей, які вони занадто збентежені, щоб ходити в магазин і купувати. Хто вирішує, які магазини та продавці розраховують і які немає? Хто спостерігає за даними, щоб переконатися, що інтенсивно збентежуючу інформацію не витікає, або з метою, ні хакерів більше?

Той факт, що небанківські фінансові установи можуть бути зняті, щоб використовувати деякі з цих даних (або вже використання) - це не причина, щоб це дозволити. Це причина, щоб залишитися так далеко від зазначених організацій. Ai не готовий до цього. Законодавство про конфіденційність не готові до цього. Послідовними повідомленнями від авторитетних, тверезих дослідників, що працюють у цій галузі, полягає в тому, що ми ніде поблизу готові перетворити такі життєво важливі міркування до чорної коробки. Автори, які написали цей документ, можуть бути абсолютними майстрами банківської справи, але їх оптимізм щодо найближчого стану мереж AI недоречно.

Кілька речей є більш важливим у сучасному житті, ніж у кредитній та фінансовій історії, і це достатньо, щоб рухатися винятково повільно, де AI стурбований. Дайте йому десятиліття або два і перевірте, чи ми витратимо наступні кілька десятиліть, що очищаємо несправедливості, завдані проти різних людей, буквально без них.