AIF / ドメイン5 AIソリューションのセキュリティ、コンプライアンス、ガバナンス
AIワークロードのコスト管理
AIの費用は使い方によって大きく変わります。 AIF-C01では、費用の内訳を把握する手段と、抑えるための判断が問われます。
概要
AIの費用は、の利用量、の計算資源、データの保管の3つで構成されます。
| 区分 | 主な費用 |
|---|---|
| 生成AI | 入力と出力のトークン、プロビジョンド、カスタムモデルの保管 |
| 機械学習 | 学習ジョブの実行時間、の稼働時間、ノートブックの稼働 |
| データ | の保管、間の転送、の稼働 |
主要技術
①費用を把握する手段 ⚠️ 頻出
| サービス | 役割 |
|---|---|
| 費用の推移と内訳を分析します。 | |
| 予算を設定し、超過や予測超過を通知します。 | |
| コスト配分タグ | プロジェクトや部門ごとに費用を分けます。 |
| 利用量の指標を監視します。 |
⚠️ 頻出: 実績の分析はAWS Cost Explorer、事前の通知はAWS Budgetsです。
②生成AIの費用を抑える判断
| 判断 | 効果 |
|---|---|
| 用途に見合った小さなモデルを選ぶ | 単価を下げます。 |
| 渡す文脈を絞る | を減らします。 |
| 出力の最大長を制限する | 出力トークンを抑えます。 |
| 即時性が不要ならを使う | 一括処理の単価で処理します。 |
| 安定した大量処理はプロビジョンド | 単価と性能を予見可能にします。 |
| 重複した問い合わせの結果を再利用する | 呼び出し回数を減らします。 |
③機械学習の費用を抑える判断
| 判断 | 効果 |
|---|---|
| 使わないを削除する | 待機中の課金を止めます。 |
| 断続的なはにする | 使った分だけの課金になります。 |
| 一括処理はバッチ変換にする | 常時稼働を避けます。 |
| スポットの計算資源を学習に使う | 学習費用を下げます。 |
| 専用チップ (Trainium、Inferentia) を検討する | 単価当たりの性能を上げます。 |
| ノートブックを停止する | 使っていない開発環境の費用を止めます。 |
⚠️ 頻出: エンドポイントはリクエストがなくても課金されます。使っていないエンドポイントの放置は典型的な無駄です。
④効果との対比
費用の判断は、削減額だけでなく効果と合わせて見ます。
| 指標 | 内容 |
|---|---|
| 1件あたりのコスト | 処理1件にかかる費用です。 |
| 削減できた工数 | 人手の作業がどれだけ減ったかです。 |
| 投資収益率 | 効果を投資額で割った値です。 |
| 利用者あたりの費用 | 利用者数で割った費用です。 |
試験対策
①判断マトリクス
| 問題文のキーワード | 選ぶもの |
|---|---|
| 費用の内訳を分析したい | |
| 予算超過を事前に知りたい | |
| 部門別に費用を分けたい | コスト配分タグ |
| 断続的なの待機費用を避けたい | |
| 夜間の一括処理で費用を抑えたい | バッチ変換、 |
| 安定した大量処理の性能を確保したい | プロビジョンド |
| 生成の費用が想定を超えた | 入力の文脈量と出力長の見直し |
②よくある誤答
- 最も大きなモデルを使いながらコスト最適を主張すること。用途に合う大きさを選びます。
- プロビジョンドを常に安いと考えること。利用量が少なければ割高になります。
- を止めなくても費用は発生しないと考えること。稼働時間で課金されます。