Конфиденциальность Apple Intelligence надежнее, чем у любой другой компании, работающей в сфере искусственного интеллекта, но даже ее защита не идеальна, когда в дело вступает ChatGPT.
Такой аргумент приводит руководитель службы безопасности Inrupt, компании, ориентированной на конфиденциальность и соучредителем которой является изобретатель Всемирной паутины Тим Бернерс-Ли…
Защита конфиденциальности Apple Intelligence
Ранее мы описывали трехступенчатую иерархию функций искусственного интеллекта от Apple:
- Максимально возможная обработка данных выполняется на устройстве, без отправки данных на серверы.
- Если требуются внешние вычислительные мощности, следующим средством являются собственные серверы Apple.
- Если они не могут помочь, пользователи попросил разрешения использовать ChatGPT
Мы также рассказали о «чрезвычайном шаге», предпринятом Apple для защиты конфиденциальности клиентов, когда задачи обрабатываются собственными серверами искусственного интеллекта компании — Private Cloud Compute.
Кроме того, когда запросы передаются в ChatGPT, применяются дополнительные меры защиты. Apple анонимизирует все передачи ChatGPT, поэтому серверы OpenAI не имеют ни малейшего представления о том, кто сделал конкретный запрос или кто получает ответ.
Соглашение Apple с OpenAI также гарантирует, что данные этих сеансов не будут использоваться в качестве учебного материала для моделей ChatGPT.
Но Inrupt утверждает, что риски нарушения конфиденциальности все еще существуют
Тиму Бернерсу-Ли приписывают изобретение всемирной паутины. В 2018 году он обратил внимание на защиту конфиденциальности использования интернета, став соучредителем компании Inrupt, чтобы сосредоточиться на предоставлении пользователям полного контроля над использованием их персональных данных. К сожалению, с тех пор прогресс был медленным.
Руководитель архитектуры безопасности компании Inrupt Брюс Шнайер говорит, что защита конфиденциальности Apple Intelligence впечатляет, но не идеальна.
Apple создала «довольно впечатляющую систему конфиденциальности» для своего ИИ, говорит Шнайер. «Их цель — сделать использование ИИ — даже в облаке — не менее безопасным, чем безопасность телефона. В этом много подвижных частей, но я думаю, что они справились довольно хорошо». […]
Для некоторых данных «вы застряли в правилах OpenAI», — говорит Шнайер. «Apple удаляет идентификационную информацию при отправке запросов OpenAI, но во многих запросах есть много идентификационной информации».
По сути, чем более персональным для вас является запрос ИИ, тем выше риск того, что вас могут идентифицировать по его содержанию.
Например, если бы вы попросили ChatGPT помочь вам спланировать маршрут для городской поездки, тот факт, что вы находитесь в определенном городе в определенные выходные и указали определенные интересы, вполне мог бы быть достаточным, чтобы вас идентифицировал кто-то, кто вас знает.
Мнение
Ни одна система защиты конфиденциальности не идеальна, и, безусловно, верно, что правильная комбинация данных в сеансе ChatGPT может идентифицировать вас для кого-то, кто уже знает о вас довольно много. Разумно проявлять осторожность в отношении личной информации, которой вы делитесь в сеансах ИИ.
При этом следует отметить, что Inrupt кровно заинтересована в том, чтобы ее не полностью убедили чьи-либо меры предосторожности в отношении конфиденциальности, поскольку компания продвигает свою собственную модель.
Дело в том, что Apple предлагает более высокий стандарт защиты конфиденциальности, чем кто-либо другой, и я ожидаю, что так будет и дальше, по мере появления новых идей.
