責任あるAIの原則

は、AIを安全で公平に使うための考え方と実践です。 AIF-C01のドメイン4では、原則の名前と内容、それを支えるAWSの機能が問われます。

概要

AWSはの観点として次のような柱を挙げています。用語をそのまま覚えるのではなく、「どの懸念に対応する観点か」で理解します。

観点	内容
	属性による不当な差を作らないことです。
	出力に至った理由を示せることです。
プライバシーとセキュリティ	データを保護し、目的外の利用を防ぐことです。
安全性	有害な出力や悪用を防ぐことです。
統制 ()	方針、責任者、手順を定めることです。
	仕組み、用途、限界を利用者へ伝えることです。
真実性と堅牢性	正確で、入力の変化に対して崩れにくいことです。
包摂性	多様な利用者が使えることです。

主要技術

①バイアスと公平性 ⚠️ 頻出

は、予測が特定の属性へ偏ることです。主な原因はの偏りで、次のような形で現れます。

種類	内容
データの偏り	収集の段階で特定の集団が少ない、または多いことです。
ラベルの偏り	注釈者の判断に偏りがあることです。
表現の偏り	一部の集団の特徴が過度に強調されることです。
履歴の偏り	過去の不公平な慣行がデータに残っていることです。

対策	内容
データの多様性の確保	不足している集団のデータを補います。
バイアス指標の測定	学習前と学習後の両方で測ります。
継続的な監視	運用中の偏りの変化を追います。
人間の確認	影響が大きい判断に確認を挟みます。

測定は、集団ごとの件数、ラベルの割合、予測や誤りの率を標準の計算式で集計して行います。 AWSでは Clarifyがこの測定と説明を担当していましたが、2026年7月30日に新規の利用者の受け付けを終えました。新しく作る構成では、指標を自分で計算し、予測の説明にはSHAPのライブラリを使います。

②安全性とガードレール

では、有害な出力、機密情報の露出、望まない話題への応答を防ぐ必要があります。が、入力と出力の両方を検査して遮ります。

防ぐもの	手段
有害な表現	有害カテゴリーのしきい値設定
禁止話題	話題の定義による拒否
の露出	個人情報の検出と隠ぺい
事実に基づかない回答	根拠の確認 () の検査

③人間の関与

影響の大きい判断には人間を組み込みます。

仕組み	内容
人間による確認 (human in the loop)	出力を人が確認してから確定します。
(A2I)	確度の低いを人へ回す流れを構成します。2026年7月30日に新規の利用者の受け付けを終えたため、新しく作るなら確認待ちの流れを自前で組みます。
異議申し立ての経路	判断に対する再確認の手段を用意します。

⚠️ 頻出: 誤りの影響が大きい業務では、自動化の度合いを下げて人間の確認を挟む設計が正解になります。

④透明性と文書化

手段	内容
	用途、想定利用者、制約、評価結果、リスクを記載します。
AI利用の明示	利用者へAIが関与していることを伝えます。
出所の表示	生成物であることを示します。
変更の記録	モデルやデータの更新履歴を残します。

AWSでは Model Cardsが文書化を担当し、AWS AI Service Cardsが各AIサービスの用途と制限を公開しています。

⑤データセットの性質

は、データの性質から始まります。

性質	内容
包摂性	多様な利用者を含むことです。
多様性	条件や状況の幅を含むことです。
選別された出所	出所が確かめられていることです。
均衡	集団やクラスの件数が偏っていないことです。

⑥法的リスクと信頼

リスク	内容
の侵害	生成物が既存の著作物に類似する可能性があります。
偏った出力	差別的な扱いとして問題になります。
顧客の信頼の喪失	誤った出力の公開が信用を損ないます。
利用者の被害	誤情報に基づく判断が損害につながります。
	事実でない内容が事実として扱われます。

⑦モデル選択での環境への配慮と持続可能性

には、環境への負荷を抑えることも含まれます。大きなモデルほど、学習とに多くの計算資源と電力を使います。 AWS Well-Architected フレームワークののレンズ (持続可能性) では、次の考え方が示されています。

考え方	実践の例
生成AIが本当に必要かを確かめる	検索や従来ので足りるなら、計算量の多い生成AIを使いません。
適切な大きさのモデルを選ぶ	要件を満たす最小のモデルを選びます。大きなモデルの精度が必要なら、で小さなモデルへ移します。
効率のよいカスタマイズを選ぶ	一から学習させず、、、効率のよいで足りるかを先に検討します。
需要に合わせて資源を使う	や自動スケーリングで、使っていない資源を減らします。
効率のよい基盤を使う	学習や推論に向いた専用の半導体 (AWS Trainium、AWS Inferentia) を検討します。

⚠️ 頻出: 「環境への配慮」「持続可能性」を重視するモデル選択では、精度だけで最大のモデルを選ばず、要件を満たす小さなモデルや効率のよい手法を選びます。

⑧バイアス、信頼性、真実性を検出し監視する手法

試験ガイドは、製品名よりも次の手法を挙げています。なお、 Clarify、SageMaker Model Monitor、、SageMaker Ground Truthはいずれも2026年7月30日に新規の利用者の受け付けを終えました。

手法	内容	使う場面と手段の例
ラベル品質の分析	同じデータを複数の担当者が判定して一致度を測り、判定基準のあいまいさや担当者の偏りを見つけます。	の作成 (同じデータを複数人に割り当て、判定を集約して一致度を測る)
サブグループ分析	全体の精度だけでなく、年齢層、地域、言語などの集団ごとに精度や承認率を集計して比べます。全体の数値が高くても、少数の集団で精度が低いことがあります。	学習前のデータ、学習後の評価、運用中の定期的な集計
人間による監査	評価基準を定め、担当者が出力を抜き取りで採点します。や安全性のように自動の指標では判断しにくい観点を確かめます。	のモデル評価の (自社の担当者で作業チームを作る)
自動の評価	判定モデルの組み込みの指標 (有害性、固定観念、回答の拒否など) や、頑健性、有害性の自動評価で、多数の出力を同じ基準で採点します。	Amazon Bedrockのモデル評価

頑健性 (堅牢性) は、誤字や表記ゆれのような小さな変化を入力に加えても、出力が大きく変わらない性質です。真実性は、出力が事実に沿っていることで、根拠の確認や規則との整合の検証 () で支えます。

試験対策

①判断マトリクス

問題文のキーワード	対応する観点と機能
属性による予測の偏りを測りたい	、集団ごとの指標の計算 (サブグループ分析)
予測の理由を示したい	、SHAPによるの寄与
有害な出力を遮りたい	安全性、
の露出を防ぎたい	プライバシー、Bedrock Guardrailsと
モデルの用途と限界を文書化したい	、 Model Cards
確度の低い判定を人が確認したい	人間の関与、確度のしきい値で人の確認に回す流れ
運用中の偏りの変化を検知したい	監視、集団ごとの指標の定期的な集計との
環境への負荷を抑えてモデルを選びたい	持続可能性、要件を満たす小さなモデルと

②よくある誤答

を法務だけの課題と考えること。データ設計、評価、監視の技術的な実践を含みます。
をアルゴリズムの選択だけの問題と考えること。まずデータを見ます。
でが得られると考えること。役割が違います。