Apple сохранила функцию обнаружения наготы на изображениях, но в 2022 году отказалась от некоторых функций защиты CSAM.
Жертва сексуального насилия в детстве подала в суд на Apple за отказ от ранее объявленного в 2022 году плана по сканированию изображений, хранящихся в iCloud, на предмет материалов о сексуальном насилии над детьми.
Первоначально в конце 2021 года Apple представила план по защите пользователей от материалов о сексуальном насилии над детьми (CSAM) путем сканирования загруженных изображений на устройстве с использованием системы хэштегов. Он также будет предупреждать пользователей перед отправкой или получением фотографий с алгоритмически обнаруженной наготой.
Функция обнаружения наготы, называемая «Безопасность общения», действует и по сей день. Однако Apple отказалась от своего плана по обнаружению CSAM после негативной реакции со стороны экспертов по конфиденциальности, групп по безопасности детей и правительств.
27-летняя женщина, которая в детстве стала жертвой сексуального насилия со стороны родственника, подала в суд на Apple, используя разрешенный судом псевдоним за остановку функции обнаружения CSAM. Она говорит, что ранее получила уведомление от правоохранительных органов о том, что изображения насилия над ней хранились в iCloud через MacBook, конфискованный в Вермонте, когда эта функция была активна.
В своем иске она говорит, что Apple нарушила свое обещание защищать таких жертв, как она, когда удалила функцию сканирования CSAM из iCloud. По ее словам, тем самым Apple позволила широко распространять этот материал.
Таким образом, Apple продает «дефектные продукты, которые нанесли вред такому классу клиентов», как она сама.
Еще больше потерпевших присоединились к иску
По словам одного из адвокатов женщины, иск женщины против Apple требует внесения изменений в практику Apple и потенциальной компенсации группе из 2680 других подходящих жертв. В иске отмечается, что функции сканирования CSAM, используемые Google и Facebook от Meta, выявляют гораздо больше незаконных материалов, чем функция Apple, запрещающая наготу.
Согласно действующему законодательству, жертвы сексуального насилия над детьми могут получить компенсацию в размере как минимум 150 000 долларов США. Если бы все потенциальные истцы по иску женщины получили компенсацию, ущерб для Apple мог бы превысить 1,2 миллиарда долларов, если бы она была признана ответственной.
В аналогичном деле адвокаты, действовавшие от имени девятилетней жертвы CSAM, в августе подали иск против Apple в суд Северной Каролины. В этом случае, по словам девушки, незнакомцы отправляли ей видео CSAM через ссылки iCloud и «побуждали ее снимать и загружать» подобные видео, как сообщает The New York Times, которая сообщила об обоих случаях.
Apple подала ходатайство о прекращении дела Северной Каролины, отметив, что раздел 230 федерального кодекса защищает ее от ответственности за материалы, загруженные в iCloud ее пользователями. В компании также заявили, что она защищена от претензий по ответственности за качество продукции, поскольку iCloud не является отдельным продуктом.
Решения суда смягчают защиту по статье 230
Однако недавние судебные решения могут опровергнуть требования Apple об уклонении от ответственности. Апелляционный суд девятого округа США постановил, что такая защита может применяться только к активной модерации контента, а не как полная защита от возможной ответственности.
Представитель Apple Фред Сайнс заявил в ответ на новый иск, что Apple считает, что «материалы о сексуальном насилии над детьми отвратительны, и мы стремимся бороться с тем, как хищники подвергают детей риску».
Сайнс добавил, что «мы срочно и активно внедряем инновации для борьбы с этими преступлениями, не ставя под угрозу безопасность и конфиденциальность всех наших пользователей».
Он указал на расширение функций обнаружения наготы в приложении «Сообщения», а также на возможность пользователям сообщать Apple о вредных материалах.
Женщина, стоящая за иском, и ее адвокат Маргарет Мэйби не согласны с тем, что Apple сделала достаточно. Готовясь к делу, Мэби просмотрела отчеты правоохранительных органов и другие документы, чтобы найти дела, связанные с изображениями ее клиентов и продуктами Apple.
В конце концов Мэйби составила список из более чем 80 примеров изображений, которыми делятся. Как отмечает Times, одним из людей, поделившихся изображениями, был житель района Залива, которого поймали с более чем 2000 незаконными изображениями и видео, хранившимися в iCloud.
