Искусственный искусственный интеллект, созданный по новостям, слишком опасен для публичного выпуска

На протяжении всей истории человечества автоматизация вытесняла людей в одной отрасли за другой. В прошлом это были лесопилки и переработка продуктов питания, а теперь, похоже, могут быть грузовики и кассиры. Тем не менее, в будущем может быть еще одна жертва занятости. Ваш дружелюбный писатель-фальшивый сосед может остаться без работы, если такие системы, как GPT2, станут обычным явлением. В настоящее время исследователи, разработавшие этот ИИ, считают его слишком опасным для выпуска.

Некоммерческий OpenAI (при поддержке Элона Маск) разработал GPT2, позволив ему читать более 8 миллионов онлайн-статей. Он использует новый тип дизайна нейронной сети, который называется Transformer. Исследователи Google разработали Transformers в 2017 году, который лучше понимает язык. Он предполагал, что Transformer будет выполнять такие задачи, как языковой перевод, но команда OpenAI обнаружила, что он также способен создавать разборчивый текст.

Вы можете дать GPT2 блок текста, и он будет генерировать больше текста в том же стиле. Он делает это, сосредотачиваясь на одном слове за раз, а затем решает, каким должно быть следующее слово. В отличие от посредственного предсказания текста на вашем телефоне, GPT2 создает согласованные предложения, которые, кажется, помогают понять смысл. Честно говоря, я читал новостные статьи, написанные людьми, которые были не так хорошо написаны.

Итак, почему эта статья написана мягким, живым человеком, а не сверхэффективным ИИ? GPT2 может понимать язык, но не может анализировать и объяснять факты. Все, что он пишет, является ложью, что делает его лучшим в мире генератором фальшивых новостей. Удивительно, как легко GPT2 поддерживает свою ложь. Он содержит цитаты, цитаты и статистику для поддержки любого текстового заглушки, который вы ему дадите. Вот пример с AI-сгенерированным текстом курсивом:

В шокирующем открытии ученый обнаружил стадо единорогов, живущих в отдаленной, ранее не исследованной долине, в Андах. Еще более удивительным для исследователей стало то, что единороги прекрасно говорили по-английски.

Ученый назвал население в честь своего отличительного рога Единорог Овидия. Эти серебристо-белые единороги с четырьмя рогами были ранее неизвестны науке.

Теперь, спустя почти два столетия, тайна того, что вызвало это странное явление, наконец разгадана.

Доктор Хорхе Перес, биолог-эволюционист из Университета Ла-Паса и несколько его компаньонов, исследовали горы Анд, когда нашли небольшую долину без других животных или людей. Перес заметил, что в долине был естественный фонтан, окруженный двумя пиками из камня и серебряного снега.

Затем Перес и остальные пошли дальше в долину. «К тому времени, когда мы достигли вершины одного пика, вода стала голубой, а сверху было несколько кристаллов», - сказал Перес.

Перес и его друзья были поражены, увидев стадо единорога. Эти существа можно было видеть с воздуха, не двигаясь слишком сильно, чтобы их видеть - они были так близко, что могли коснуться их рогов.

Исследуя эти странные существа, ученые обнаружили, что эти существа также говорят на довольно обычном английском языке. Перес заявил: «Например, мы видим, что у них общий« язык », что-то вроде диалекта или диалектики».

Доктор Перес полагает, что единороги, возможно, произошли в Аргентине, где животные считались потомками потерянной расы людей, которые жили там до прибытия людей в эти части Южной Америки.

Хотя их происхождение до сих пор неясно, некоторые полагают, что, возможно, существа были созданы, когда человек и единорог встретились друг с другом во времена, предшествовавшие человеческой цивилизации. По словам Переса, «в Южной Америке подобные инциденты встречаются довольно часто».

Тем не менее, Перес также указал, что, вероятно, единственный способ узнать наверняка, являются ли единороги действительно потомками потерянной инопланетной расы, - через ДНК. «Но они, кажется, способны хорошо общаться на английском языке, что, по моему мнению, является признаком эволюции или, по крайней мере, изменения в социальной организации», - сказал ученый.

GPT2 представляет собой значительный прогресс в так называемом обучении без учителя. В большинстве нейронных сетей обучение состоит из контролируемого обучения. Это означает, что вы должны ввести помеченные наборы данных и оценить результат, чтобы настроить различные узлы обработки до тех пор, пока сеть не будет функционировать, как предполагалось. Неконтролируемые сети, такие как GPT2, могут ассимилировать большие объемы данных без участия человека. Многие исследователи считают, что это ключ к будущему ИИ, и OpenAI только что показал, что он может работать и давать впечатляющие результаты.

Команда решила оставить GPT2 в лаборатории на данный момент. OpenAI продолжит экспериментировать, чтобы узнать, что GPT2 может и не может делать, но это всего лишь вопрос времени, когда эта технология найдет выход в Интернет.

Читать далее

Intel Drops Security Patch Benchmark Ban после публичного выступления

Intel отказалась от требований, чтобы пользователи, применяющие исправление микрокода для своего недостатка безопасности Foreshadow в Linux, никогда не публикуют контрольные показатели результатов.