Последнее обновление iOS использует алгоритмы обнаруживающих наготавшихся в детской версии Messenger

Хотя не так много информации о том, как технологии работает за кулисами, власть журналиста Марка Гурмана на рассылку Newsletter предлагает немного понимания того, как это проявляется на устройстве пользователя. Функция не включена автоматически, но однажды реализована на устройстве с учетной записью для семейных ресурсов, он будет сканировать на натурацию в образах, отправленных и полученных приложением сообщений. Если обнаруживается нагота, сообщения размывают изображение и отображают экранное предупреждение, которое объясняет опасности совместного использования явных фотографий и запрашивает, хотел бы ли просмотрщик продолжить.

Несмотря на некоторую путаницу над родительским привлечением в функции, опекуны не сразу уведомляются при реле обнаженной фотографии на устройстве ребенка. (По слухам, по слухам был оригинальный план Apple.) Вместо этого у ребенка есть возможность «Сообщение взрослым» и предупредить о себе.

Важно отметить, что новая функция безопасности детей не совпадает с запланированной способностью сканировать фотографии iCloud пользователей для детской порнографии - отдельная мера безопасности, которая была также объявлена ​​в этом году. Последние Работает, скрытое сканирование фотоальбомов пользователей Apple устройств для детской порнографии, затем отправка подозреваемых изображений к модераторам. Если модераторы подтверждают наличие опасных материалов, они отключают напугать учетную запись пользователя и направить материал в правоохранительные органы, а также Национальный центр пропавших без вести и эксплуатации детей. В ответ на широко распространенную обеспокоенность по поводу конфиденциальности пользователей Apple приостановила свой план, чтобы включить эту функцию, которая первоначально была сплавлена ​​для прибытия к концу 2021 года.

Обе функции являются частью усилий Apple, чтобы выдержать эксплуатацию детей на его устройствах. Компания представила еще одну инициативу до того же конца с iOS 15.2, которая пытается перенаправить пользователей, которые делают запросы, связанные с детской порнографией. Следуя проблемным поиском, Siri предлагает пользователю либо сообщать об эксплуатации дочерней эксплуатации или достижения анонимной вершины, посвященной тем, как мысли на риску. Apple предположительно сотрудничает с различными ресурсами, чтобы помочь предотвратить вред плохим актерам.