Тысячи жертв CSAM подают в суд на Apple за отказ от планов по сканированию устройств на наличие материалов о сексуальном насилии над детьми.
Помимо штрафов на сумму более 1,2 миллиарда долларов, компания может быть вынуждена восстановить планы, от которых она отказалась после того, как многие из нас указали на риск злоупотреблений со стороны репрессивных режимов…
История до сих пор
Большинство служб облачных вычислений регулярно сканируют учетные записи пользователей на предмет материалов о сексуальном насилии над детьми (CSAM), используя метод снятия цифровых отпечатков пальцев.
Эти отпечатки пальцев представляют собой способ сопоставить известные изображения CSAM без необходимости их просмотра кем-либо, и они разработаны так, чтобы быть достаточно нечеткими, чтобы продолжать сопоставлять изображения, которые были обрезаны или отредактированы иным образом, генерируя при этом очень мало ложных срабатываний. При обнаружении положительного совпадения фотография вручную проверяется человеком. Если это подтверждает, что фотография принадлежит CSAM, составляется отчет и передается в правоохранительные органы.
iCloud — один из немногих облачных сервисов, который не выполняет такое сканирование, и Apple называет это причиной конфиденциальности.
Пытаясь внедрить сканирование CSAM с соблюдением конфиденциальности, Apple предложила запустить инструмент снятия отпечатков пальцев для проведения на устройстве сканирование на том основании, что это будет менее навязчиво, чем сканирование фотографий iCloud. Только если несколько совпадения были обнаружены, если бы человек просматривал фотографии, как метод дальнейшего снижения риска ложного срабатывания.
Проблема, как заметили многие из нас, заключалась в возможности злоупотреблений со стороны репрессивных правительств.
Цифровой отпечаток пальца может быть создан для любой тип материала, а не только CSAM. Ничто не может помешать авторитарному правительству добавить в базу данных изображения плакатов политической кампании или чего-то подобного.
Инструмент, предназначенный для борьбы с серьезными преступниками, можно легко адаптировать для выявления тех, кто выступает против правительства или одной или нескольких его политик. Apple, которая получит базу данных отпечатков пальцев от правительств, окажется невольно помогающей репрессиям или, того хуже, политическим активистам.
Первоначально Apple заявила, что никогда не согласится на это, но многие из нас снова отметили, что у нее не будет выбора. Как известно, компания заявляет каждый раз, когда ей приходится делать что-то сомнительное, чтобы соблюсти закон: «Apple соблюдает законы в каждой из стран, в которых она работает».
Производитель iPhone сначала отверг этот аргумент, но в конечном итоге отказался от планов сканирования CSAM, прежде чем с опозданием признал реальность проблемы. Впоследствии Apple использовала именно этот аргумент, чтобы выступить против предложенного закона.
Жертвы CSAM подали в суд
Арстехника сообщает, что жертвы CSAM теперь подают в суд на Apple за неспособность провести сканирование.
Тысячи жертв подали в суд на Apple из-за ее предполагаемой неспособности обнаружить и сообщить о незаконной детской порнографии, также известной как материалы сексуального насилия над детьми (CSAM). […]
Жертвы сексуального насилия над детьми, подавшие иск, обвинили Apple в использовании средств защиты кибербезопасности для игнорирования обязательных обязанностей технологического гиганта по отчетности в CSAM. Если они выиграют дело присяжных, Apple может грозить штраф в размере более 1,2 миллиарда долларов. И, что, пожалуй, наиболее важно для защитников конфиденциальности, Apple также может быть вынуждена «выявлять, удалять и сообщать о CSAM в iCloud, а также внедрять политики, практики и процедуры для предотвращения дальнейшего распространения CSAM или торговли детьми в целях сексуальной эксплуатации на устройствах и сервисах Apple». Это может означать постановление суда о внедрении спорного инструмента или альтернативы, соответствующей отраслевым стандартам массового обнаружения CSAM.
Apple обвиняют в прямом получении прибыли от своей политики.
По мнению выживших, Apple получает прибыль от разрешения CSAM на iCloud, поскольку дети-хищники рассматривают ее продукты как безопасную гавань для хранения CSAM, о чем массово сообщают большинство других крупных технологических компаний. В то время как Apple сообщила только о 267 известных случаях CSAM в 2023 году, четыре другие «ведущие технологические компании представили более 32 миллионов отчетов», отмечается в иске. И если якобы слабый подход Apple к CSAM останется бесконтрольным, выжившие опасаются, что ИИ может увеличить количество CSAM, о котором не сообщается, в геометрической прогрессии.
В ответ компания заявила, что принимает активные меры для решения проблемы.
Материалы о сексуальном насилии над детьми отвратительны, и мы стремимся бороться с тем, как хищники подвергают детей риску. Мы срочно и активно внедряем инновации для борьбы с этими преступлениями, не ставя под угрозу безопасность и конфиденциальность всех наших пользователей. Например, такие функции, как «Безопасность общения», предупреждают детей, когда они получают или пытаются отправить контент, содержащий наготу, чтобы помочь разорвать цепочку принуждения, ведущую к сексуальному насилию над детьми. Мы по-прежнему сосредоточены на создании средств защиты, которые помогут предотвратить распространение CSAM до его начала.
Мнение
Это беспроигрышная ситуация для всех участников. Существует неизбежный конфликт между раскрытием поистине отвратительного преступления и риском того, что репрессивное правительство воспользуется им.
Если бы Apple с самого начала приняла стандартную практику сканирования фотографий iCloud, вполне вероятно, что это никогда бы не превратилось в спорный вопрос. По иронии судьбы, именно попытка компании достичь той же цели, но более уважительно к конфиденциальности, привела к разногласиям.
На данный момент, вероятно, в интересах Apple, чтобы суд вынес решение по этому поводу. Если это является Компания была вынуждена внедрить сканирование, а будущее правительство могло бы этим воспользоваться, компания могла бы, по крайней мере, указать, что у нее нет выбора. И наоборот, если Apple выиграет дело, она может создать юридический прецедент, который устранит продолжающееся давление.
Фото: Дэн Голд/Unsplash
