Fake-News-Generating AI вважається занадто небезпечним для публічного випуску
Протягом людської історії автоматизація витіснила людей в одній галузі за іншою. У минулому це були лісопилки та харчова промисловість, а тепер це виглядає як наступне. Проте в майбутньому може виникнути інша аварія на робочому місці. Ваш дружній письменник з фальшивими новинами може бути поза роботою, якщо такі системи, як GPT2, стануть звичайним явищем. Поки що дослідники, які розробили цей AI, вважають це занадто небезпечним для випуску.
Неприбуткова OpenAI (за підтримки Elon Musk) розробила GPT2, дозволивши прочитати більше 8 мільйонів статей в Інтернеті. Він використовує новий тип нейронної мережі, що називається трансформатором. У 2017 році дослідники Google розробили Transformers, що краще розуміє мову. Вона передбачала виконання завдань Transformer, як переклад мови, але команда OpenAI виявила, що вона також вміла створювати розбірливий текст.
Ви можете надати GPT2 блок тексту, і він буде генерувати більше його в тому ж стилі. Це робить це, зосереджуючись на одному слові за раз, а потім вирішує, яким має бути наступне слово. На відміну від посереднього прогнозування тексту на вашому телефоні, GPT2 створює послідовні речення, які, здається, перетинають точки. Чесно кажучи, я читав новини, написані людьми, які не були так добре написані.
Отже, чому ця стаття написана жирною людиною замість гіпер-ефективного ІІ? GPT2 може розуміти мову, але не може розібрати й пояснити факти. Все, що він пише, є брехнею, що робить її найкращим у світі генератором фальшивих новин. Це дійсно дивно, як легко GPT2 також зберігає свою брехню. Він складається з цитат, цитат і статистичних даних, які підтримують будь-який текст, який ви надаєте йому. Ось приклад з текстом, створеним AI курсивом:
У шокуючих знахідках, вчений виявив стадо єдинорогів, що живуть у віддаленій, раніше невивченій долині, в Андах. Ще більш дивним для дослідників було те, що єдинороги говорили досконало англійською мовою.
Вчений назвав популяцію, після їхнього характерного рогу, єдинорога Овідія. Ці чотири роги, срібно-білі єдинороги, раніше не були відомі науці.
Тепер, після майже двох століть, остаточно розгадана таємниця того, що викликало це дивне явище.
Доктор Хорхе Перес, еволюційний біолог з Університету Ла-Пасу і кілька компаньйонів, досліджували Анди, коли вони виявили невелику долину, без інших тварин або людей. Перес помітив, що в долині є те, що здавалося природним фонтаном, оточеному двома вершинами скелі і срібного снігу.
Перес та інші потім вдалися далі в долину. "Коли ми досягли вершини одного піку, вода виглядала синьою, з деякими кристалами на вершині", - сказав Перес.
Перес і його друзі були здивовані тим, що бачили стадо єдинорога. Ці істоти можна було побачити з повітря без необхідності рухатися занадто сильно, щоб побачити їх - вони були настільки близькі, що могли торкнутися своїх рогів.
При вивченні цих химерних істот вчені виявили, що істоти також говорили про досить регулярні англійські. Перес заявив: "Ми можемо бачити, наприклад, що вони мають спільну" мову ", щось на зразок діалекту або діалектики."
Доктор Перес вважає, що єдинороги, можливо, зародилися в Аргентині, де, як вважалося, вони були нащадками втраченої раси людей, які жили там до приходу людей в ці частини Південної Америки.
Хоча їх походження все ще залишається неясним, деякі вважають, що, можливо, ці створіння були створені, коли людина і єдиноріг зустрічалися один з одним у часі перед людською цивілізацією. За словами Переса, "в Південній Америці такі інциденти здаються досить поширеними".
Однак, Перес також зазначив, що, ймовірно, єдиний спосіб знати напевно, якщо єдинороги дійсно нащадки втраченої інопланетної раси - через ДНК. «Але вони, здається, вміють добре спілкуватися англійською мовою, що, на мою думку, є ознакою еволюції або, принаймні, змін у соціальній організації», - сказав вчений.
GPT2 представляє серйозний прогрес у тому, що відомо як навчання без нагляду. У більшості нейронних мереж тренінг складається з навчання під наглядом. Це означає, що ви повинні подавати в маркіровані набори даних і оцінювати результат, щоб налаштувати різні вузли обробки, поки мережа не функціонує за призначенням. Непід контрольовані мережі, такі як GPT2, можуть асимілювати великі обсяги даних без участі людини. Багато дослідників вважають, що це ключ до майбутнього AI, і OpenAI просто показала, що вона може працювати і давати вражаючі результати.
Команда вирішила залишити GPT2 у лабораторії. OpenAI продовжить експериментувати, щоб дізнатися, що GPT2 може і не може зробити, але це лише питання часу, коли ця технологія знайде свій шлях до Інтернету.