Image Playground — новый инструмент Apple для создания изображений на базе искусственного интеллекта.
Последнее обновление 40 минут назад
Apple Intelligence будет использоваться для создания изображений в iOS 18, и изображения, созданные с помощью Image Playground, будут отмечены. Вот как это будет работать и каковы ограничения ярлыков.
С помощью Image Playground пользователи смогут создавать уникальные изображения, сгенерированные искусственным интеллектом, в различных приложениях Apple, таких как Freeform, Messages и Keynote. Все это станет возможным, когда Apple Intelligence станет доступна позднее в 2024 году.
Поскольку технология создания изображений на основе искусственного интеллекта совершенствуется с каждым днем, идентифицировать изображения, созданные с помощью искусственного интеллекта, становится все труднее. У Apple есть четкий план решения этой проблемы, поскольку ее программное обеспечение будет помечать изображения, созданные искусственным интеллектом, и предотвращать создание фотореалистичного контента для взрослых и контента, защищенного авторским правом.
Apple будет отмечать магов, созданных искусственным интеллектом, с помощью данных EXIF
На брифинге для Apple узнал, что компания планирует маркировать изображения, созданные искусственным интеллектом, с помощью метаданных изображения, также известных как данные EXIF.
Это означает, что изображения, созданные с помощью ИИ и созданные с помощью Image Playground, будут четко обозначены этими метаданными. Источник изображения, который обычно отображает название и марку камеры, использованной для съемки, будет отображать «Apple Image Playground», что служит четким указанием на то, что изображение было создано ИИ.
Однако до стеганографии компания не заходит. В настоящее время, похоже, не планируется встраивать аккредитацию Image Playground в само изображение.
Метаданные изображения можно легко удалить или изменить с помощью многих общедоступных веб-сайтов и инструментов модификации изображений. Снимок экрана изображения также не сохраняет метаданные.
Для Apple было недостаточно маркировки изображения с помощью данных EXIF, поскольку компания позаботилась о том, чтобы ее программное обеспечение могло генерировать изображения только в определенных, нереалистичных стилях.
На том же брифинге мы узнали, что программное обеспечение Apple эффективно не позволит пользователям создавать фотореалистичные изображения. Вместо этого пользователи смогут создавать изображения в следующих трех стилях, одобренных Apple, в Image Playground: анимация, иллюстрация и эскиз.
Ни один из этих стилей изображений нельзя спутать с фотографией реального человека или места. Стиль «Анимация» создает изображения, отдаленно напоминающие кадры из 3D-анимационных фильмов, а стили «Иллюстрация» и «Эскиз» создают изображения еще более очевидного двумерного типа.
Apple работала с цифровыми художниками и просила их создавать изображения в трех вышеупомянутых стилях. Эти изображения затем использовались для обучения программного обеспечения генеративного искусственного интеллекта компании, чтобы оно могло генерировать изображения аналогичного вида.
Image Playground будет предотвращать создание защищенного авторским правом, фотореалистичного контента и контента для взрослых посредством многочисленных проверок.
Из беседы с людьми, знакомыми с ситуацией, узнал подробности справочного материала, который Apple использовала для Image Playground.
В качестве стиля изображения Animation компания использовала изображение трехмерного желтого цыпленка, напоминающего персонажа из анимационного фильма Pixar или Dreamworks, с глазами в мультяшном стиле.
Для стиля Sketch Image Playground Apple использовала очевидный рисунок розового и оранжевого цветка. Для обучения программного обеспечения искусственного интеллекта стилю «Иллюстрация» компания использовала изображение человека в довольно узнаваемом и несколько абстрактном стиле, известном как «Корпоративный Мемфис».
Image Playground предоставит пользователям возможность создавать изображения, сгенерированные искусственным интеллектом, в следующих трех стилях: анимация, иллюстрация, эскиз.
Благодаря нашему независимому исследованию узнал о четвертом стиле изображения, известном как Line Art, от которого Apple отказалась в какой-то момент во время разработки Image Playground. На сегодняшний день этот стиль изображения не упоминался, и он не попал в первые бета-версии последних операционных систем Apple для разработчиков.
Создавая эти различные стили изображений и заказывая справочные материалы, Apple хотела научить свой ИИ создавать определенные типы изображений, которые не были фотореалистичными и, следовательно, их нельзя было бы спутать с реальным изображением объекта или места. Image Playground также будет иметь возможность создавать очевидные изображения людей, которых знает пользователь, сгенерированные искусственным интеллектом, посредством интеграции с библиотекой фотографий пользователя.
На нашем брифинге с Apple во время WWDC мы также узнали, что Apple, по-видимому, создала «множественные проверки», чтобы предотвратить создание материалов для взрослых и защищенных авторским правом. Также будет опция обратной связи с пользователем, которая даст пользователям возможность сообщать о контенте, защищенном авторским правом или контенте для взрослых, случайно созданном в приложении.
По словам людей, знакомых с этим вопросом, эти новые проверки авторских прав и контента для взрослых, а также маркировка изображений с помощью метаданных, похоже, были добавлены поздно, в период разработки Image Playground. Нам сообщили, что ранние версии Image Playground, находящиеся в стадии разработки, похоже, не содержат этих проверок безопасности, поскольку они не предназначены для внешнего использования.
По сути, все это означает, что Apple приложила все усилия, чтобы предотвратить создание фотореалистичного контента для взрослых и контента, защищенного авторским правом. Компания хочет, чтобы ее изображения, созданные с помощью ИИ, можно было легко идентифицировать, поэтому такие изображения помечаются метаданными, которые может проверить любой.
