MIT создает искусственную психопату, названную «Норман»

Исследователи искусственного интеллекта до сих пор пытались сделать хорошо продуманные алгоритмы, которые могут быть полезны человечеству. Тем не менее, команда из Массачусетского технологического института взяла на себя проект, чтобы сделать абсолютно противоположное. Исследователи из Лаборатории Массачусетского технологического института подготовили ИИ, чтобы быть психопатом, только подвергая его образам насилия и смерти. Это похоже на коробку Скиннера ужаса для ИИ, которую команда назвала «Норман» после фильма психопата Нормана Бейтса. Как и ожидалось, Норман не очень хорошо отрегулировал ИИ.

Норман начал с тем же потенциалом, что и любая другая нейронная сеть, - поскольку вы кормите его данными, он становится способным распознавать похожие шаблоны, с которыми он сталкивается. Технологические компании использовали ИИ для поиска фотографий и создания более правдоподобного синтеза речи среди многих других приложений. Эти хорошо округленные ИИ были разработаны с особой целью. Норман родился психопатом.

Команда Массачусетского технологического института кормила Нормана устойчивой диетой данных, полученных от ужасных субредактивов, которые существуют для обмена фотографиями смерти и разрушения. Из-за этических проблем команда фактически не обрабатывала фотографии людей, умирающих. У Нормана только были подписи к изображениям субредда, которые были сопоставлены с чернилами, и именно это стало основой для его тревожной личности.

После тренировки Норман и «обычный» ИИ показали серию чернильных пятен. Психологи иногда используют эти «тесты Роршаха» для оценки психического состояния пациента. Норман и регулярные ИИ - это, по сути, боты с субтитрами изображений, которые являются популярным приложением глубокого обучения для ИИ. Регулярный ИИ видел такие вещи, как самолет, цветы и маленькую птицу. Норман видел, как люди умирали от огнестрельных ран, прыгали из зданий и т. Д.

Норман не был испорчен, чтобы в какой-то момент говорить о человеческой психологии в Интернете - нейронная сеть - это чистый список. У него нет врожденных желаний, как у человека. То, что Норман делает, - это опасность того, что искусственный интеллект может стать опасно предвзятым. С ИИ вы получаете то, что вы вкладываете, поэтому важно, чтобы эти платформы были обучены, чтобы избежать предвзятости, и, желательно, не оставлять их на более темных углах Reddit в течение длительных периодов времени.

Теперь команда хочет узнать, сможет ли он исправить Норман. Вы можете взять тот же тест Rorschach и добавить свои собственные подписки. Команда будет использовать эти данные, чтобы скорректировать модель Нормана, чтобы увидеть, начинает ли он меньше убивать. Мы можем только надеяться.