Конфиденциальность Apple Intelligence является ключевым отличием собственной инициативы компании в области искусственного интеллекта: компания применяет трехэтапный подход к защите личных данных.
Но Apple заявляет, что нам не придется верить компании на слово: она предпринимает «экстраординарный шаг», чтобы дать возможность сторонним исследователям безопасности полностью и независимо проверять действующие меры защиты конфиденциальности…
Конфиденциальность Apple Intelligence начинается здесь
Apple применяет трехступенчатую иерархию для запуска функций ИИ:
- Максимальный объем обработки выполняется на устройстве, без отправки данных на серверы.
- Если необходима внешняя вычислительная мощность, следующим средством станут собственные серверы Apple.
- Если они не могут помочь, пользователи спросил разрешения использовать ChatGPT
Собственные AI-серверы Apple имеют пять защит
Когда используются собственные серверы Apple, это делается с использованием подхода, который Apple назвала Private Cloud Compute (PCC). Это облачная система искусственного интеллекта, которая, по словам компании, построена на основе пяти мер безопасности.
Персональные данные имеют самую надежную защиту
Любые личные данные, отправляемые в PCC, используют сквозное шифрование, так что даже Apple не имеет к ним доступа, но компания идет дальше. Он использует подход, известный как «вычисления без сохранения состояния», который означает, что после завершения обработки личные данные полностью удаляются из системы. В тот момент, когда обработка завершена, его как будто никогда и не существовало.
Исполнимые гарантии
Apple не полагается на конфиденциальность политика; вместо этого он гарантирует, что все используемые технологии технически не способен об утечке персональных данных. Например, некоторые типы технологий балансировки нагрузки и устранения неполадок могут в некоторых случаях захватывать некоторые пользовательские данные, поэтому Apple не использует ни одну из них. Независимые исследователи безопасности могут проверить эти факты.
Нет привилегированного доступа во время выполнения
Еще одна потенциальная дыра в безопасности облачных серверов — это действия, которые могут быть предприняты инженерами на месте для повышения своих привилегий или обхода защиты для решения проблемы. PCC не включает в себя возможности, которые можно было бы использовать таким образом.
Нет возможности таргетинга
Даже если злоумышленник получил физический доступ к объекту Apple PCC, у него нет технических средств, с помощью которых он мог бы атаковать данные отдельного пользователя.
Но это пятый шаг, на котором Apple выходит далеко за рамки всего, что кто-либо когда-либо делал…
В Apple заявляют, что, в принципе, шаг «принудительных гарантий» уже позволяет независимым исследователям безопасности проверять утверждения компании. Они могут сами увидеть, какие возможности есть у PCC, а какие нет, и, следовательно, определить, чего сможет или не сможет достичь злоумышленник.
Но компания хочет сделать больше, поэтому делает свое программное обеспечение полностью прозрачным.
Когда мы запустим Private Cloud Compute, мы предпримем необычайный шаг по созданию образов программного обеспечения каждая производственная сборка PCC общедоступна для исследования безопасности. Это обещание также является осуществимой гарантией: пользовательские устройства будут готовы отправлять данные только на узлы PCC, которые могут криптографически подтвердить использование общедоступного программного обеспечения. […]
Каждый производственный образ программного обеспечения Private Cloud Compute будет опубликован для независимой двоичной проверки, включая ОС, приложения и все соответствующие исполняемые файлы, которые исследователи смогут сверить с измерениями в журнале прозрачности. […]
Впервые для любой платформы Apple образы PCC будут включать прошивку sepOS и загрузчик iBoot. открытым текстомчто облегчает исследователям изучение этих важнейших компонентов.
Сообщение в блоге Apple по безопасности содержит гораздо больше деталей, и исследователи безопасности, несомненно, будут рады возможности проверить все утверждения компании.
Фото Мэтью Генри на Unsplash
