Apple* раскрывает архитектуру моделей ИИ: уточнения о роли Google* и фокус на приватности

На недавней пресс-конференции руководители Apple*, включая старшего вице-президента по разработке программного обеспечения Крейга Федериги, вице-президента по ИИ Амара Субраманью, руководителя Siri Майка Роквелла и вице-президента по программному обеспечению Себастьяна Марино-Мейса, представили архитектуру нового поколения собственных базовых моделей искусственного интеллекта (Apple Foundation Models*, AFM). Было подробно рассказано, как эта технология, лежащая в основе Apple* Intelligence, была разработана, а также уточнен вклад и роль технологий Google*.

Разграничение с технологиями Google*

Федериги решительно заявил, что Apple* не использует компоненты Google* Assistant. Он пояснил, что в основе системы Apple* Intelligence не применяются ни модели Gemini*, доступные клиентам Google*, ни клиентский код Google*, ни поисковая инфраструктура Google* в качестве базы знаний.

Подчеркивалось, что приложение Gemini* не интегрировано в систему Apple*, и ни один из клиентских кодов Google* не используется в работе iOS. Также было отмечено, что для своих моделей Apple* не применяет ни сами модели, развертываемые Google* для своих пользователей, ни инфраструктуру, с помощью которой Google* их распространяет. В качестве базы знаний для своей системы Apple* также не использует Google* Search или аналогичные сервисы.

Семейство моделей Apple* Foundation Models* (AFM*)

Субраманья представил новое семейство моделей AFM*, состоящее из двух моделей, работающих непосредственно на устройствах (on-device), и трех серверных моделей.

К моделям для устройств относятся AFM* Core с плотной архитектурой нового поколения и AFM* Core Advanced, использующая разреженную архитектуру и поддерживающая различные типы данных (мультимодальная).

По словам Субраманьи, AFM* Core Advanced «не похожа ни на одну из ранее используемых моделей для устройств», позволяя реализовать новые функции, включая приглашения и выразительные голоса, без обращения к облачным сервисам. Среди серверных моделей AFM* Cloud обрабатывает запросы Private Cloud Compute*, оптимизированные по задержке, а AFM* Cloud Image отвечает за генерацию и редактирование изображений, включая пространственное переформатирование.

Истинное сотрудничество с Google* и Nvidia*

Ключевые детали сотрудничества с Google* были раскрыты Субраманьей при описании процесса обучения четырех из этих моделей. Он уточнил, что все они разработаны специально для процессоров Apple* Silicon, обучены на проприетарных данных с использованием обучения с подкреплением и доработаны с применением результатов передовых моделей Gemini*. Было подчеркнуто, что вклад Google* заключался в дистилляции (извлечении знаний из большой модели для обучения меньшей), а не в полном внедрении Gemini*.

Пятая и самая мощная модель, AFM* Cloud Pro, предназначена для выполнения сложных задач, требующих использования инструментов и глубокого рассуждения. По словам Субраманьи, её качество сопоставимо с передовыми моделями Gemini*. Эта модель отходит от стандартной архитектуры Private Cloud Compute* от Apple*.

Для её работы Apple* сотрудничала как с Google*, так и с Nvidia*, расширив свою частную облачную инфраструктуру за счет графических процессоров Nvidia*, размещенных в облаке Google*. Марино-Мейс пояснил, что Apple* стремилась использовать новейшие чипы Nvidia*, но при этом требовалось, чтобы они были настроены таким образом, чтобы не иметь возможности считывать содержимое серверов Apple*. Решение было найдено в недавней технологии Nvidia* под названием «ambiguous confidential compute» (неопределенные конфиденциальные вычисления), которая позволяет обеспечить необходимый уровень приватности.

Системная архитектура и гарантии конфиденциальности

Федериги описал общую архитектуру системы, построенную вокруг «Системного оркестратора» (System Orchestrator) — программного компонента, который он назвал «ключевым для архитектуры конфиденциальности всей нашей системы». Оркестратор направляет каждый запрос к соответствующей модели — на устройстве или в облаке — в зависимости от сложности запроса и требуемого персонального контекста.

Он использует «Набор инструментов приложений» (App Toolbox) для действий внутри приложений, «Семантический индекс Spotlight» (Spotlight Semantic Index) для личного контента и экранный контекст для ситуационной осведомленности в реальном времени. Для запросов, касающихся текущих событий, ответы предоставляются через собственную «Службу мировых знаний» (World Knowledge Service) Apple*, которую, по словам Федериги, компания разрабатывала несколько лет.

Apple* также утверждает, что вся инфраструктура Private Cloud Compute*, включая расширенные мощности графических процессоров Nvidia* в облаке Google*, может быть независимо проверена сторонними исследователями для подтверждения того, что пользовательские данные никогда не хранятся и не доступны.

* — деятельность компании запрещена на территории РФ

Твитнуть