Apple Intelligence
ИИ на уровне системы, распределяющий работу между устройством и приватным облаком
Полный текст статьи представлен на английском; заголовок и аннотация локализованы.
ЧТО ЭТО
Apple Intelligence is a set of system-level AI features Apple introduced in June 2024, building generative abilities into iOS, iPadOS and macOS. Work an on-device model can handle is done locally, and requests beyond that go to “Private Cloud Compute” on dedicated servers. The features span writing tools, notification summaries, image generation and an enhanced Siri.
Почему стоит запомнить
It proposed an architecture that divides work between on-device models and Private Cloud Compute, placing generative abilities at the level of the operating system rather than inside a standalone app.
Ключевые характеристики
- Form
- System features across iOS, iPadOS and macOS
- Architecture
- On-device models working with Private Cloud Compute
- Modality
- Text, image, audio in; text, image out
Возможности
Связанные концепции
Сжатие моделей
Сделать модель меньше, быстрее и дешевле почти без потери точности — но три сразу удаётся редко
Оптимизация инференса и обслуживание
Обучение случается один раз, вывод — миллиарды раз в день; быстрый первый токен и высокая пропускная способность обычно тянут в разные стороны
Безопасность, выравнивание и инъекция промптов
Модель оптимизирует прокси в функции потерь, а не то, что мы действительно хотим; зазор между ними и есть вся проблема выравнивания
Промптинг и выравнивание
Сделать модель полезной, честной и безопасной труднее, чем просто увеличить её
Аналоги
Gemini
2024Единое окно диалога, собравшее поиск, офисные приложения и мультимодальную модель
Microsoft Copilot
2023Разговорный ИИ, встроенный в операционную систему и офисные приложения
ChatGPT
2022Окно диалога, которое сделало большую языковую модель доступной каждому
Siri
2011Ранний голосовой ассистент, принёсший управление голосом в массовые телефоны