OpenAI выпускает поддельные новости Bot, который он ранее считал слишком опасным
В феврале этого года некоммерческая исследовательская лаборатория искусственного интеллекта OpenAI объявила, что ее новый алгоритм под названием GPT-2 может написать правдоподобные поддельные новости за считанные секунды. Вместо того, чтобы выпустить бота в мир, OpenAI посчитал его слишком опасным для общественного потребления. Фирма потратила месяцы на разработку частей базовой технологии, чтобы оценить, как она использовалась. Не ссылаясь на «веские доказательства неправомерного использования», OpenAI теперь сделал полный бот GPT-2 доступным для всех.
OpenAI разработал GPT-2 для использования текста и создания резюме и переводов. Тем не менее, исследователи стали обеспокоены, когда они подали алгоритм явно мошеннических заявлений. GPT-2 может взять ядро бессмыслицы и построить вокруг него правдоподобную историю, вплоть до изобретения исследований, экспертных цитат и даже статистики для подкрепления ложной информации. Вы можете увидеть пример возможностей генерации текста в GTP-2 ниже.
Вы можете поиграть с GPT-2 онлайн на странице Talk to Transformer. Сайт уже обновлен полной версией GPT-2. Просто добавьте немного текста, и ИИ продолжит рассказ.
Поток фальшивых новостей впервые был вызван после выборов 2016 года, когда теневые сайты, принадлежащие иностранным интересам, распространяли дезинформацию, большая часть которой закрепилась в Facebook. OpenAI беспокоился, что выпуск бота, который мог бы распространять поддельные новости в больших количествах, был бы опасен для общества. Хотя некоторые исследователи ИИ считали, что фирма просто ищет внимания. По их словам, эта технология или что-то вроде этого будет доступно в конце концов, так почему бы не выпустить бота, чтобы другие команды могли разработать способы обнаружения его выхода.
Теперь у нас девять месяцев спустя, и вы можете скачать полную модель. OpenAI говорит, что надеется, что исследователи смогут лучше понять, как распознать поддельные новости, написанные AI. Тем не менее, он предупреждает, что его исследования показывают, что GPT-2 может быть изменен, чтобы занять крайние идеологические позиции, которые могут сделать его еще более опасным.
OpenAI также говорит, что его тестирование показывает, что обнаружение материала GPT-2 может быть сложной задачей. Его лучшие внутренние методы позволяют идентифицировать 95 процентов текста GPT-2, что, по его мнению, недостаточно для полностью автоматизированного процесса. Вызывает беспокойство не то, что GPT-2 может выдавать поддельные новости, а то, что потенциально он может делать это очень быстро и с определенным уклоном. Людям требуется время, чтобы написать что-то, даже если все это придумано. Если GPT-2 будет проблемой, мы, вероятно, узнаем об этом на предстоящем цикле выборов в США.
Читать далее
Лучшие системы безопасности умного дома
Когда-то являвшиеся нишевым бизнесом с несколькими традиционными игроками и несколькими стартапами, системы домашней безопасности теперь являются основным полем битвы не только для охранных компаний, но и для нескольких интернет-гигантов. Мы собрали самые популярные варианты на 2020 год.
Microsoft: чип Pluton обеспечит безопасность на уровне Xbox на ПК с Windows
Intel, AMD и Qualcomm работают над тем, чтобы сделать Pluton частью своих будущих проектов, что должно сделать ПК более трудным для взлома, но также встроит технологию Microsoft в ваше оборудование.
Исследователь безопасности: пароль компании solarwinds123 оставлен уязвимым в 2019 г.
SolarWinds, компания, оказавшаяся в центре массового взлома правительственных учреждений и корпораций США, не совсем использует передовые методы паролей.
Приложение для обмена файлами с миллиардом загрузок имеет серьезный недостаток безопасности
Trend Micro заявляет, что SHAREit - это кошмар безопасности, который может позволить злоумышленникам украдкой взглянуть на ваши данные или даже установить вредоносное ПО. Пожалуй, самое тревожное, что разработчики не ответили на предупреждения Trend Micro.