AI エンジニアリング・安全性・倫理
動くモデルを、使えて信頼でき説明責任を果たせる製品へ
OVERVIEW
- 全項目
- 6
- 初級
- 2
- 中級
- 3
- 上級
- 1
Getting a model to work in a notebook is roughly a third of the job. The rest is engineering and governance: compressing it to a deployable cost, evaluating it rather than trusting a feeling, defending against injection and misuse, and being able to explain and attribute failure when it happens. This domain is the gate every model must pass to become a product.
この領域が答える問い
- Q1
How are large models compressed onto consumer hardware?
- Q2
How do you evaluate when there is no answer key?
- Q3
Why is prompt injection so hard to eliminate?
この領域の項目
- 01学習・推論インフラストラクチャ上級メモリが「どれだけ大きなモデルを訓練できるか」を、通信が「どれだけ時間がかかるか」を決める
- 02モデル圧縮中級精度をほぼ犠牲にせずモデルを小さく・速く・安くする —— ただし三つ同時には取りにくい
- 03推論最適化とサービング中級訓練は一度だけ、推論は毎日何億回。初回トークンの速さとスループットは、しばしば相反する
- 04検索拡張生成初級知識をパラメータに詰め込むより、外に置いて必要なときに引く —— 持ち込み可の試験のように
- 05エージェントとツール利用中級モデルに「答える」だけでなく、調べ、API を呼び、コードを走らせる力を持たせ、その結果から次の一手を決めさせる
- 06安全性・アラインメント・プロンプトインジェクション初級モデルが最適化するのは「本当に望むもの」ではなく損失に書いた代理指標。そのずれがアラインメント問題のすべてだ