На прошлой неделе Apple объявила о трех новых функциях, направленных на безопасность детей на ее устройствах. Хотя намерения хороши, новые функции не остались без внимания, поскольку некоторые организации и руководители крупных технологий выступают против заявления Apple.
Компания опубликовала FAQ обо всех этих новых функциях и о том, как они будут работать. Теперь, пытаясь избежать новых споров, глава Apple Privacy Эрик Нойеншвандер в интервью TechCrunch высказал опасения по поводу своих новых систем для обнаружения CSAM.
Эти функции для защиты детей используют обнаружение CSAM в фотографиях iCloud, безопасность общения в сообщениях и вмешательства в Siri и поиск. Хотя эти меры были объявлены вместе и взаимосвязаны, они используются для разных целей. Например:
Обнаружение CSAM в фотографиях iCloud: система обнаружения под названием NeuralHash идентифицирует и сравнивает с идентификаторами из национального центра пропавших без вести и эксплуатируемых детей для обнаружения известного содержимого CSAM в библиотеках фотографий iCloud; Безопасность общения в сообщениях: родитель может включить эту функцию на своих дочерних устройствах младше 13 лет и будет предупреждать, когда изображение, которое они собираются просмотреть, будет обнаружено как явное; Вмешательства в Siri и поиск: когда пользователь пытается выполнить поиск терминов, связанных с CSAM, с помощью Siri и поиска, он будет проинформирован о вмешательстве и предложит ресурсы.
Подробнее обо всем этом вы можете узнать здесь.
В интервью Neuenschwander TechCrunch обращается к некоторым проблемам пользователей. Например, Нойеншвандер объясняет, почему Apple анонсировала функцию безопасности связи в сообщениях наряду с обнаружением CSAM в функции фотографий iCloud:
Каким бы важным ни было определение коллекций известных CSAM, где они хранятся в сервисе Apple iCloud Photos, также важно попытаться выйти из этой и без того ужасной ситуации. … Безопасность в сообщениях и наше вмешательство в Siri и поиск на самом деле наносят удар по этим частям процесса. Таким образом, мы действительно пытаемся нарушить циклы, ведущие к CSAM, которые в конечном итоге могут быть обнаружены нашей системой.
Еще одна проблема связана с тем, что правительства и агентства пытаются найти лазейку с помощью этой меры. Нойеншвандер объясняет, что Apple собирается «не нарушать конфиденциальность для всех, кто не занимается незаконной деятельностью».
На вопрос о том, следует ли доверять Apple, если правительство попытается скомпрометировать эту новую систему, глава Apple Privacy ответил:
Ну, во-первых, это запускается только для США, учетные записи iCloud, и поэтому гипотетические предположения, похоже, поднимают общие страны или другие страны, которые не являются США, когда они говорят таким образом, и поэтому кажется, что люди согласны с тем, что законодательство США не предоставляет нашему правительству таких возможностей.
Но даже в том случае, когда мы говорим о некоторой попытке изменить систему, она имеет ряд встроенных средств защиты, которые делают ее не очень полезной для попыток идентифицировать лиц, имеющих особо нежелательные изображения. Список хэшей встроен в операционную систему, у нас одна глобальная операционная система, и у нас нет возможности нацеливать обновления на отдельных пользователей, поэтому хеш-списки будут доступны всем пользователям, когда система включена.
Нойеншвандер также подчеркивает, что если iCloud Photos отключен, NeuralHash не будет работать и не будет генерировать ваучеры:
Если пользователи не используют iCloud Photos, NeuralHash не будет работать и не будет генерировать ваучеры. Обнаружение CSAM — это нейронный хэш, который сравнивается с базой данных известных хэшей CSAM, которые являются частью образа операционной системы. Ни одна из этих частей, ни какие-либо дополнительные части, включая создание ваучеров безопасности или загрузку ваучеров в Фото iCloud, не работают, если вы не используете Фото iCloud.
Прочитайте больше:
