AIシステムのセキュリティと責任共有モデル

AIF / ドメイン5 AIソリューションのセキュリティ、コンプライアンス、ガバナンス

AIのワークロードにも、AWSの基本的なセキュリティの考え方がそのまま適用されます。 AIF-C01のドメイン5では、とAI固有の観点を合わせて問われます。

概要

AWSのでは、クラウド自体のセキュリティはAWSが、クラウド内で利用者が構成するもののセキュリティは利用者が担います。

⚠️ 頻出: を使っても、入力するデータの選別と権限設計は利用者の責任です。

手段	内容
のロールとポリシー	誰がどのをどのリソースに対して呼べるかを制御します。
	必要な操作だけを許可します。
モデル単位の制御	では呼び出せるモデルを制限できます。
サービス間の権限	エージェントやジョブが使うロールも最小権限にします。
エージェントの身元と認証情報	で、エージェントを呼べる利用者の認証と、エージェントが外部サービスへアクセスするための認証情報を管理します。
エージェントのの制御	で、エージェントが呼べるツールと条件を、エージェントのコードの外で強制します。

観点	手段
	のキーで、モデル成果物、知識ベースを暗号化します。
転送時の暗号化	で通信を保護します。
機密情報の検出	S3上は、テキスト内はで検出します。
秘密情報の管理	で認証情報を管理します。
データの所在	保管するを要件に合わせて選びます。
入力の学習利用 ()	Amazon Bedrockは、と応答をAWSのモデルの学習に使わず、第三者にも渡しません。モデルの提供者は、Bedrockのログや利用者のプロンプトと応答にアクセスできません。

手段	内容
	実行環境を私設ネットワーク内に置きます。
	インターネットを経由せずにAWSのサービスへ接続します。
	通信の可否を制御します。

⚠️ 頻出: 「AIサービスへの通信をインターネットへ出したくない」という要件はAWS PrivateLinkです。

観点	内容
	入力を通じた指示の上書きを検査します。
出力の検査	有害な内容や機密の混入を遮ります。
エージェントの権限	呼び出せる操作を最小限にします。
入力の記録	何が入力されたかを追える形で記録します。
データの学習利用	入力が学習に使われるかをサービスごとに確認します。
データ漏えいの防止	機密情報のフィルターで出力からを取り除き、検索の範囲を利用者の権限で絞ります。
出力のフィルタリングと検証	で有害な内容を遮り、形式や値の正しさを検証してから使います。
監査証跡とログ	誰が、いつ、どのモデルに、何を入力し、何が返ったかを記録します。のモデル呼び出しのログとを使います。
毒性 (有害な表現)	ガードレールの有害カテゴリーのフィルターで、入力と出力の両方を検査します。

サービス	役割
	呼び出しの履歴を記録します。
	利用状況とエラーを監視します。
	不審なふるまいを検知します。
	、のイメージ、関数の脆弱性を継続して検査します。自前で動かすコンテナの脆弱性管理に使います。
の	ガードレールが介入した回数 (InvocationsIntervened) などがCloudWatchに出ます。急な増加をで通知すれば、攻撃の試行に早く気付けます。
	セキュリティの状況を集約します。

実践	内容
データ品質の評価	欠損、誤り、重複、偏りを確認します。のデータプロファイルやデータ品質の規則で、学習に使う前に検査できます。
プライバシー保護技術	匿名化、、集計での提供を検討します。匿名化は元の個人へ戻せない形にすること、仮名化は対応表を別に管理して識別子を置き換えることです (対応表があれば元に戻せます)。
アクセス制御	誰がどのデータを読めるかを定めます。
完全性の確保	改ざんを検知できる形で保管します。置き場所へ書き込めるロールを絞り、のとで、誰がいつ何を変えたかを追えるようにします。

問題文のキーワード	選ぶもの
誰がモデルを呼べるかを制御したい
保管データを暗号化したい
インターネットを経由せず接続したい
のを見つけたい
操作の履歴を残したい
認証情報を安全に管理したい
入力が学習に使われるか確認したい	各サービスのデータ保護の条件
エージェントに利用者の代わりに外部サービスへアクセスさせたい
エージェントが呼べるツールを規則で強制したい
有害な出力や個人情報の露出を防ぎたい
の使い方ごとに必要な対策を整理したい