이 페이지의 본문은 영어로 제공됩니다. 제목과 요약은 한국어로 번역되었습니다.
무엇인가
Apple Intelligence is a set of system-level AI features Apple introduced in June 2024, building generative abilities into iOS, iPadOS and macOS. Work an on-device model can handle is done locally, and requests beyond that go to “Private Cloud Compute” on dedicated servers. The features span writing tools, notification summaries, image generation and an enhanced Siri.
기억할 만한 이유
It proposed an architecture that divides work between on-device models and Private Cloud Compute, placing generative abilities at the level of the operating system rather than inside a standalone app.
주요 사양
- Form
- System features across iOS, iPadOS and macOS
- Architecture
- On-device models working with Private Cloud Compute
- Modality
- Text, image, audio in; text, image out
소속 능력
관련 개념
모델 압축
정확도를 거의 잃지 않고 모델을 더 작고 빠르고 저렴하게 — 다만 셋을 동시에 얻기는 어렵다
추론 최적화와 서빙
학습은 한 번, 추론은 매일 수억 번. 첫 토큰 속도와 처리량은 대개 서로 당긴다
안전성·정렬·프롬프트 인젝션
모델이 최적화하는 것은 우리가 진짜 원하는 것이 아니라 손실에 적어 넣은 대리 지표다 — 그 틈이 정렬 문제의 전부다
프롬프트 엔지니어링과 정렬
모델을 유용하고 정직하며 무해하게 만드는 일은 단순히 더 크게 만드는 것보다 어렵다