本ページの本文は英語で提供されています。タイトルと導入は日本語化されています。
これは何か
Apple Intelligence is a set of system-level AI features Apple introduced in June 2024, building generative abilities into iOS, iPadOS and macOS. Work an on-device model can handle is done locally, and requests beyond that go to “Private Cloud Compute” on dedicated servers. The features span writing tools, notification summaries, image generation and an enhanced Siri.
なぜ覚えておく価値があるか
It proposed an architecture that divides work between on-device models and Private Cloud Compute, placing generative abilities at the level of the operating system rather than inside a standalone app.
主な仕様
- Form
- System features across iOS, iPadOS and macOS
- Architecture
- On-device models working with Private Cloud Compute
- Modality
- Text, image, audio in; text, image out
対応する能力
関連する概念
モデル圧縮
精度をほぼ犠牲にせずモデルを小さく・速く・安くする —— ただし三つ同時には取りにくい
推論最適化とサービング
訓練は一度だけ、推論は毎日何億回。初回トークンの速さとスループットは、しばしば相反する
安全性・アラインメント・プロンプトインジェクション
モデルが最適化するのは「本当に望むもの」ではなく損失に書いた代理指標。そのずれがアラインメント問題のすべてだ
プロンプト設計とアラインメント
モデルを「役に立ち、正直で、無害」にすることは、ただ大きくするより難しい