MIT создает искусственную психопату, названную «Норман»

MIT создает искусственную психопату, названную «Норман»

Исследователи искусственного интеллекта до сих пор пытались сделать хорошо продуманные алгоритмы, которые могут быть полезны человечеству. Тем не менее, команда из Массачусетского технологического института взяла на себя проект, чтобы сделать абсолютно противоположное. Исследователи из Лаборатории Массачусетского технологического института подготовили ИИ, чтобы быть психопатом, только подвергая его образам насилия и смерти. Это похоже на коробку Скиннера ужаса для ИИ, которую команда назвала «Норман» после фильма психопата Нормана Бейтса. Как и ожидалось, Норман не очень хорошо отрегулировал ИИ.

Норман начал с тем же потенциалом, что и любая другая нейронная сеть, - поскольку вы кормите его данными, он становится способным распознавать похожие шаблоны, с которыми он сталкивается. Технологические компании использовали ИИ для поиска фотографий и создания более правдоподобного синтеза речи среди многих других приложений. Эти хорошо округленные ИИ были разработаны с особой целью. Норман родился психопатом.

Команда Массачусетского технологического института кормила Нормана устойчивой диетой данных, полученных от ужасных субредактивов, которые существуют для обмена фотографиями смерти и разрушения. Из-за этических проблем команда фактически не обрабатывала фотографии людей, умирающих. У Нормана только были подписи к изображениям субредда, которые были сопоставлены с чернилами, и именно это стало основой для его тревожной личности.

После тренировки Норман и «обычный» ИИ показали серию чернильных пятен. Психологи иногда используют эти «тесты Роршаха» для оценки психического состояния пациента. Норман и регулярные ИИ - это, по сути, боты с субтитрами изображений, которые являются популярным приложением глубокого обучения для ИИ. Регулярный ИИ видел такие вещи, как самолет, цветы и маленькую птицу. Норман видел, как люди умирали от огнестрельных ран, прыгали из зданий и т. Д.

MIT создает искусственную психопату, названную «Норман»

Норман не был испорчен, чтобы в какой-то момент говорить о человеческой психологии в Интернете - нейронная сеть - это чистый список. У него нет врожденных желаний, как у человека. То, что Норман делает, - это опасность того, что искусственный интеллект может стать опасно предвзятым. С ИИ вы получаете то, что вы вкладываете, поэтому важно, чтобы эти платформы были обучены, чтобы избежать предвзятости, и, желательно, не оставлять их на более темных углах Reddit в течение длительных периодов времени.

Теперь команда хочет узнать, сможет ли он исправить Норман. Вы можете взять тот же тест Rorschach и добавить свои собственные подписки. Команда будет использовать эти данные, чтобы скорректировать модель Нормана, чтобы увидеть, начинает ли он меньше убивать. Мы можем только надеяться.

Читать далее

Intel представляет новые мобильные графические процессоры Xe Max для создателей контента начального уровня
Intel представляет новые мобильные графические процессоры Xe Max для создателей контента начального уровня

Intel выпустила новый потребительский мобильный графический процессор, но у него очень специфический вариант использования, по крайней мере, на данный момент.

MIT создает подводный GPS-навигатор без батарей
MIT создает подводный GPS-навигатор без батарей

Радиосигналы GPS быстро рассеиваются при попадании в воду, что затрудняет научные исследования в море. Единственная альтернатива - использовать акустические системы, которые разжевывают батарейки. Команда из Массачусетского технологического института разработала технологию слежения без батарей, которая могла бы положить конец этому раздражению.

НАСА создало коллекцию жутких космических звуков для Хэллоуина
НАСА создало коллекцию жутких космических звуков для Хэллоуина

Последний выпуск данных НАСА превращает сигналы из-за пределов Земли в жуткие звуки, которые наверняка вызовут мурашки по позвоночнику.

Как создать детектор маски для лица с помощью Jetson Nano 2GB и AlwaysAI
Как создать детектор маски для лица с помощью Jetson Nano 2GB и AlwaysAI

Nvidia продолжает делать ИИ на периферии более доступным и простым в развертывании. Поэтому вместо того, чтобы просто бегать по тестам для обзора нового Jetson Nano 2GB, я решил заняться самостоятельным проектом по созданию собственного детектора маски для лица.