AIF / ドメイン4 責任あるAIのガイドライン
重要な内容
透明性と説明可能性
とは、AIの判断を人が理解し検証できるようにする考え方です。 AIF-C01では、2つの言葉の違いと、それを支えるAWSの機能が問われます。
概要
似た言葉ですが、指す対象が違います。
| 用語 | 意味 | 実現する手段 |
|---|---|---|
| 何のためのモデルで、どんなデータで作られ、何ができないかを開示することです。 | 、サービスカード、利用の明示 | |
| ある出力がなぜそうなったかを示せることです。 | の寄与、参照文書の提示 | |
| 解釈可能性 | モデルの内部構造そのものが人に理解できることです。 | 決定木や線形モデルなどの単純なモデル |
主要技術
①解釈しやすいモデルと解釈しにくいモデル ⚠️ 頻出
| モデルの種類 | 解釈のしやすさ | 精度 |
|---|---|---|
| 線形、ロジスティック回帰 | 係数から理由を読み取れます。 | 単純な関係に限られます。 |
| 決定木 | 分岐の条件をそのまま説明できます。 | 中程度です。 |
| 勾配ブースティングなどの集約モデル | 直接は読み取れず、寄与の算出が必要です。 | 高くなります。 |
| 、 | 内部は事実上読み取れません。 | 高くなります。 |
⚠️ 頻出: 説明責任が厳しい用途では、精度を少し下げても解釈しやすいモデルを選ぶ判断が正解になる場合があります。
②説明可能性を支える手段
| 手段 | 内容 |
|---|---|
| の寄与 | どの入力項目が判断を押し上げたかを示します。SHAPのライブラリで算出します。 |
| 部分依存プロット (PDP) | ある特徴量の値を変えたとき、予測が平均的にどう変わるかをグラフで示します。 |
| 参照文書の提示 | ではの出典を示すことが説明の代わりになります。 |
| 判断の過程の記録 | AIエージェントでは、どのツールをどの順に呼び、何を根拠に進めたかを追跡します ( Observability)。 |
| 反実仮想の提示 | 「この項目がこう違えば結果が変わる」という形で説明します。 |
| 信頼度の提示 | 判定の確度を併せて示します。 |
特徴量の寄与の代表的な手法がSHAP (SHapley Additive exPlanations) です。 協力ゲーム理論のシャープレイ値を使い、1件の予測に対して各特徴量がどれだけ寄与したかを配分します。 1件ごとの寄与は個別の説明 (ローカルな説明)、多数の予測の寄与を集計したものはモデル全体の傾向 (グローバルな説明) になります。 SHAPはモデルの内部構造に依存しない (モデル非依存の) 手法で、表形式のデータのほか、文章や画像のモデルにも使えます。 Clarifyのの機能はSHAPを使って作られています。 なお、SageMaker Clarifyは2026年7月30日に新規の利用者の受け付けを終えており、AWSは代わりにSHAPのライブラリを直接使う方法を案内しています。 試験では、製品名よりも「特徴量の寄与で1件ごとの理由を示す」という考え方が問われます。
生成AIの内部を説明することは困難なため、実務では根拠となる文書を示す形で説明責任を果たします。
⚠️ 頻出: 生成AIで説明性が求められる場面では、RAGによる出典提示が現実的な答えになります。
③透明性を支える文書 ⚠️ 頻出
| 手段 | 内容 |
|---|---|
| Model Cards | 用途、想定利用者、の概要、評価結果、制約、リスクを記録します。 |
| Amazon SageMaker Model Dashboard | 稼働中のモデルと監視状況を一覧で見られます。 |
| AWS AI Service Cards | AWSのAIサービスごとの用途、制限、責任ある利用の指針が公開されています。 |
| 利用の明示 | 利用者へAIが関与していることを伝えます。 |
| オープンなモデルとライセンス | モデルの重みやデータ、利用条件が公開されているかを確認します。 |
| のモデル評価 | 候補のモデルを同じデータセットと観点で評価し、結果をレポートとして残します。 |
- Model Cardsは、承認状態の変更を除く編集のたびに新しい版を作るため、モデルの変更の記録が後から書き換わりません。PDFへ書き出して関係者へ共有できます。リスクの評価 (低、中、高、不明) も記録できます。
- オープンなモデルは、重みを入手して自分の環境で検証できます。学習データの出所や構成が公開されていれば、偏りや権利の確認もしやすくなります。
- ライセンスはモデルごとに違い (Apache 2.0、責任ある利用の条件を付けたライセンスなど)、商用利用や改変、再配布の可否が変わります。では、モデルによって利用前に使用許諾 (EULA) への同意が求められます。条件を確かめ、自社の用途で許されるかを判断するのは利用者の責任です。
- Bedrockのモデル評価の結果は、どのデータでどの観点を測ったかとともに残せるため、モデルを選んだ根拠を説明する材料になります。
⚠️ 頻出: 「モデルの用途と制約を文書として残したい」という要件はSageMaker Model Cardsです。
④人間中心の設計
説明は、受け取る人が理解できる形でなければ意味がありません。
| 原則 | 内容 |
|---|---|
| 対象者に合わせる | 利用者、審査担当、規制当局で必要な説明の粒度が違います。 |
| 判断の余地を残す | 最終判断を人が下せる作りにします。 |
| 誤りの申し立て | 結果に異議を出す経路を用意します。 |
| 過信を防ぐ | 確度や限界を併せて示します。 |
| 利用者のフィードバック | 回答への評価 (役に立った、誤っている) や指摘を集め、評価用データや改善に回します。 |
| AIの関与を明示する | AIが判断や回答に関わっていること、どの範囲を人が確認したかを伝えます。 |
⑤安全性・性能と透明性のトレードオフ ⚠️ 頻出
を高めることは、いつも他の性質と両立するわけではありません。
| トレードオフ | 内容 | 進め方 |
|---|---|---|
| 解釈可能性と性能 | 決定木や線形モデルは理由を読み取れますが、複雑な関係を捉える精度ではや集約モデルに劣ることがあります。 | 両方の候補で精度と説明のしやすさを測り、用途の説明責任に照らして選びます。 |
| 透明性と安全性 | 判定の規則や内部の詳細をすべて公開すると、規則の裏をかく入力や、モデルの盗用、有害な出力を引き出す攻撃の手掛かりになります。 | 利用者には理由と限界を、監査担当には詳細を、と対象者ごとに開示の粒度を分けます。 |
| 透明性とプライバシー | をそのまま公開すると、や機密が漏れます。 | データそのものではなく、出所、件数、構成などの概要を開示します。 |
⚠️ 頻出: 「精度は高いが理由を示せないモデル」と「理由を示せるがやや精度の低いモデル」の選択では、規制や説明責任の要件が決め手になります。
試験対策
①判断マトリクス
| 問題文のキーワード | 選ぶもの |
|---|---|
| モデルの用途と制約を文書化したい | Model Cards |
| 個々の予測の理由を示したい | SHAPによるの寄与 |
| の回答の根拠を示したい | による出典提示 |
| AWSのAIサービスの制限を確認したい | AWS AI Service Cards |
| 規制上、判断根拠の説明が必須 | 解釈しやすいモデルまたは根拠の提示 |
| 稼働中のモデルの状況を一覧したい | SageMaker Model Dashboard |
| 1件の予測で各項目がどれだけ効いたかを示したい | SHAPなどの特徴量の寄与 |
| エージェントがなぜその操作をしたかを追いたい | Observability |
| オープンなモデルを業務で使えるか確かめたい | ライセンスと使用許諾の条件 |
| 説明を受け取る人が誤りを指摘できるようにしたい | 利用者のフィードバックと申し立ての経路 |
②よくある誤答
- とを同じものと考えること。開示と理由提示の違いがあります。
- の内部を説明できると考えること。実務では根拠文書の提示で代替します。
- を監視機能と考えること。文書化の仕組みです。