OpenAI выпускает поддельные новости Bot, который он ранее считал слишком опасным
В феврале этого года некоммерческая исследовательская лаборатория искусственного интеллекта OpenAI объявила, что ее новый алгоритм под названием GPT-2 может написать правдоподобные поддельные новости за считанные секунды. Вместо того, чтобы выпустить бота в мир, OpenAI посчитал его слишком опасным для общественного потребления. Фирма потратила месяцы на разработку частей базовой технологии, чтобы оценить, как она использовалась. Не ссылаясь на «веские доказательства неправомерного использования», OpenAI теперь сделал полный бот GPT-2 доступным для всех.
OpenAI разработал GPT-2 для использования текста и создания резюме и переводов. Тем не менее, исследователи стали обеспокоены, когда они подали алгоритм явно мошеннических заявлений. GPT-2 может взять ядро бессмыслицы и построить вокруг него правдоподобную историю, вплоть до изобретения исследований, экспертных цитат и даже статистики для подкрепления ложной информации. Вы можете увидеть пример возможностей генерации текста в GTP-2 ниже.
Вы можете поиграть с GPT-2 онлайн на странице Talk to Transformer. Сайт уже обновлен полной версией GPT-2. Просто добавьте немного текста, и ИИ продолжит рассказ.
Поток фальшивых новостей впервые был вызван после выборов 2016 года, когда теневые сайты, принадлежащие иностранным интересам, распространяли дезинформацию, большая часть которой закрепилась в Facebook. OpenAI беспокоился, что выпуск бота, который мог бы распространять поддельные новости в больших количествах, был бы опасен для общества. Хотя некоторые исследователи ИИ считали, что фирма просто ищет внимания. По их словам, эта технология или что-то вроде этого будет доступно в конце концов, так почему бы не выпустить бота, чтобы другие команды могли разработать способы обнаружения его выхода.
Теперь у нас девять месяцев спустя, и вы можете скачать полную модель. OpenAI говорит, что надеется, что исследователи смогут лучше понять, как распознать поддельные новости, написанные AI. Тем не менее, он предупреждает, что его исследования показывают, что GPT-2 может быть изменен, чтобы занять крайние идеологические позиции, которые могут сделать его еще более опасным.
OpenAI также говорит, что его тестирование показывает, что обнаружение материала GPT-2 может быть сложной задачей. Его лучшие внутренние методы позволяют идентифицировать 95 процентов текста GPT-2, что, по его мнению, недостаточно для полностью автоматизированного процесса. Вызывает беспокойство не то, что GPT-2 может выдавать поддельные новости, а то, что потенциально он может делать это очень быстро и с определенным уклоном. Людям требуется время, чтобы написать что-то, даже если все это придумано. Если GPT-2 будет проблемой, мы, вероятно, узнаем об этом на предстоящем цикле выборов в США.
Читать далее
Chromebook увеличивает долю рынка по мере перехода образования в Интернет
Продажи Chromebook резко выросли из-за пандемии: продажи выросли на 90 процентов, и ожидается рост в будущем. Это создает некоторые проблемы для таких компаний, как Microsoft.
AMD бьет рекорды выручки за счет увеличения продаж Zen 3, Xbox Series X и PS5
Опубликованы результаты AMD за третий квартал 2020 года, и результаты во всех отношениях превосходны для компании.
RISC-V делает шаг навстречу мейнстриму с платой SiFive Dev Board и высокопроизводительным процессором
RISC V продолжает завоевывать рынок, на этот раз с более дешевой и более полнофункциональной тестовой материнской платой.
Обзор Xbox Series X: игровой компьютер для гостиной, которого я (в основном) всегда хотел
Xbox Series X выйдет через пять дней, и мы можем говорить об этом. Я никогда раньше не делал обзоров консоли, поэтому я рассмотрел это с точки зрения того, к чему я привык - компьютерных игр. Здесь Microsoft объективно есть чем гордиться.