Интимные изображения, сделанные без согласия с помощью приложений на iPhone
Руководителям технологических компаний, таким как Тим Кук из Apple, были направлены резкие письма Конгресса, в которых выражалась обеспокоенность по поводу распространенности дипфейковых интимных изображений, сделанных без согласия.
Письма основаны на более ранних сообщениях о создании дипфейков обнаженной натуры с использованием приложений двойного назначения. Во всех социальных сетях появлялась реклама, пропагандирующая замену лиц, и пользователи использовали ее, чтобы помещать лица в обнаженные или порнографические изображения.
Согласно новому отчету 404 Media, Конгресс США принимает меры на основе этих отчетов, задавая технологическим компаниям вопрос, как они планируют остановить создание интимных изображений без согласия на их платформах. Письма были отправлены в Apple, Alphabet, Microsoft, Meta, ByteDance, Snap и X.
В письме Apple конкретно содержится призыв к компании пропустить такие приложения двойного назначения, несмотря на рекомендации по проверке приложений. В нем спрашивается, что Apple планирует сделать, чтобы обуздать распространение дипфейковой порнографии, и упоминается Закон о снятии ее.
Тиму Куку были заданы следующие вопросы:
Какие планы существуют для превентивной борьбы с распространением дипфейковой порнографии на вашей платформе и каковы сроки принятия этих мер? Какие лица или заинтересованные стороны, если таковые имеются, участвуют в разработке этих планов? Каков процесс после подачи отчета и какой надзор существует для обеспечения своевременного рассмотрения этих отчетов? Каков процесс определения необходимости удаления приложения из вашего магазина? Какие средства правовой защиты доступны пользователям, которые сообщают, что их изображение было включено в дипфейк без согласия?
Apple выступает в роли распорядителя App Store и при этом берет на себя вину каждый раз, когда в магазин попадает что-то, чего не должно быть. Эти примеры дипфейковых инструментов или детских приложений, которые становятся казино, используются в качестве топлива для аргументов в пользу того, что Apple не должна быть привратником своей платформы приложений.
Приложения, выявленные в предыдущих отчетах и удаленные Apple, имели явные признаки потенциального злоупотребления. Например, пользователи могут использовать видео с Pornhub для замены лиц.
Apple Intelligence не может создавать обнаженные или порнографические изображения, и Apple запретила программе «Вход с Apple» работать с дипфейковыми веб-сайтами. Однако это лишь минимум того, что Apple может и должна делать для борьбы с дипфейками.
Как следует из письма Конгресса, Apple необходимо предпринять шаги, чтобы гарантировать, что приложения двойного назначения не смогут пройти проверку. Дополнительные меры предосторожности следует, по крайней мере, принимать с приложениями, которые обещают манипулирование изображениями и видео с помощью ИИ, особенно с теми, которые предлагают возможность замены лиц.
