Apple Intelligence только что вышла в бета-версию на этой неделе, и теперь компания опубликовала подробный обзор того, как были созданы некоторые из ее функций ИИ. Ключевой момент? Две из базовых моделей Apple были созданы с использованием чипов, произведенных Google.
Первый подробный взгляд на развитие Apple Intelligence
Apple склонна избегать раскрытия многих деталей внутренних практик разработки продуктов. Однако, благодаря возможностям AI и ML, компания уже давно опубликовала свои исследования для всеобщего обозрения.
Последняя публикация называется «Языковые модели Apple Intelligence Foundation» и является одной из первых статей с момента представления Apple Intelligence на WWDC.
Документ написан исследователями и для исследователей, поэтому его не так просто разобрать. Однако, выдающийся кусочек касается чипов, используемых для обучения двух языковых моделей Apple Intelligence.
В этом отчете мы подробно расскажем о том, как две из этих моделей — AFM-on-device (AFM означает Apple Foundation Model), языковая модель с 3 миллиардами параметров, и AFM-server, более крупная серверная языковая модель — были созданы и адаптированы для эффективного, точного и ответственного выполнения специализированных задач. Эти две базовые модели являются частью более крупного семейства генеративных моделей, созданных Apple для поддержки пользователей и разработчиков; сюда входит модель кодирования (основанная на языковой модели AFM) для встраивания интеллекта в Xcode, а также модель диффузии, помогающая пользователям выражать себя визуально, например, в приложении «Сообщения».
Использование чипов Google для обучения моделей Apple
Две упомянутые модели, AFM-on-device и AFM-server, не были обучены с использованием собственных чипов Apple Silicon компании Apple.
Вместо этого Apple обратилась к чипам Google Tensor — вроде тех, что используются в телефонах Pixel — для обучения своих моделей. И, согласно статье, для выполнения этой работы потребовалось много чипов Tensor.
- Для обучения AFM-on-device потребовалось 2048 чипов TPUv5p
- Для более крупной модели AFM-сервера потребовалось 8192 чипа TPUv4.
Интересно, что Apple выбрала чипы Tensor от Google, а не чипы Nvidia, на которые обычно полагаются другие компании.
В статье этот вопрос подробно не поясняется, но, возможно, это будет сделано в будущих публикациях.
Что нам следует думать об этой новости? Без дальнейших подробностей от Apple трудно понять, что и думать.
Зная, что Apple предпочитает выполнять как можно больше работы собственными силами, вполне возможно, что компания уже отказалась от Google Tensor для обучения моделей и использует усовершенствованную версию Apple Silicon.
В любом случае, это означает, что iPhone становится намного умнее благодаря Apple Intelligence, отчасти благодаря Google.
