生成AIセキュリティスコーピングマトリックス

AIF / ドメイン5 AIソリューションのセキュリティ、コンプライアンス、ガバナンス

(Generative AI Security Scoping Matrix) は、の使い方を5つの範囲 (スコープ) に分け、範囲ごとに必要なセキュリティとを整理するAWSの枠組みです。 AIF-C01では、ガバナンスの枠組みの代表例として問われます。

概要

同じ「を使う」でも、外部の公開チャットを使うのと、自社でモデルを一から学習させるのとでは、自社が責任を持つ範囲が大きく違います。は、モデルとデータをどれだけ自社で持つかによって、使い方を範囲1から範囲5へ並べます。

範囲	使い方	例
範囲1: 一般向けアプリ	一般に公開された生成AIのサービスを使います。やモデルを見ることも変えることもできません。	社員が公開のチャットサービスで企画のアイデアを出す
範囲2: 企業向けアプリ	生成AIの機能が組み込まれた他社の業務アプリを、企業向けの契約で使います。	議題の下書きを作る機能付きの予定管理アプリ
範囲3: 済みモデル	他社のをで呼び、自社のアプリケーションを作ります。	のモデルと自社データので作る問い合わせ窓口
範囲4: 済みモデル	他社の基盤モデルを自社のデータで調整し、専用のモデルを作ります。	医療用語で調整し、カルテを要約するモデル
範囲5: 自社で学習したモデル	自社が持つデータや取得したデータで、モデルを一から学習させます。	自社で学習させた動画生成のモデル

範囲1と2は他社のサービスを「使う」立場、範囲3から5は自社でアプリケーションやモデルを「作る」立場です。範囲の数字が大きいほど、自社が管理する範囲と責任が広がります。

試験では、問題文の使い方がどの範囲に当たるかを見分け、その範囲で必要な対策を選びます。

Point

各範囲について、次の5つの分野を検討します。

分野	内容
と	事業を進めながらリスクを抑えるための方針、手順、報告です。
法務とプライバシー	を使う、または作るときの規制、法律、プライバシーの要件です。
リスク管理	生成AIへの脅威を洗い出し、軽減策を決めます。
統制 (コントロール)	リスクを軽減するためのセキュリティの対策を実装します。
回復力 (レジリエンス)	可用性を保ち、事業上のサービス水準を満たすように設計します。

範囲	自社が主に管理すること	主な対策
範囲1	社員の使い方と、入力する情報	利用の方針、機密情報を入力しない教育、利用できるサービスの限定
範囲2	契約の条件と、提供元のデータの扱い	利用規約と契約の確認、データの保持と学習への利用の有無の確認
範囲3	自社のアプリケーション、、のデータ	アクセス制御、入出力の、対策、ログ
範囲4	上記に加え、調整に使うデータと調整済みのモデル	の品質と権利、モデルへのアクセス制御、暗号化
範囲5	上記に加え、学習データの全体とモデルのすべて	学習データの来歴、偏りの評価、モデルの全工程の管理

⚠️ 頻出: 自社のデータでしたモデル (範囲4) は、学習に使った機密情報を出力してしまうおそれがあります。調整済みのモデルへのアクセスも、元のデータと同じ水準で制御します。

観点	内容
共通の考え方	AWSはクラウドの基盤を守り、利用者はその上に置くデータ、権限、アプリケーションを守ります。
範囲との関係	範囲が大きくなるほど、利用者が守る対象 (、モデル、の環境) が増えます。
を使う場合	主に範囲3と範囲4に当たります。モデルの基盤はAWSが管理し、利用者はアプリケーション、データ、権限、を設計します。

使い方	内容
利用の棚卸し	社内のの使い方を洗い出し、範囲ごとに分類します。
方針の作成	範囲ごとに、許可する使い方と必要な審査を決めます。
審査の周期	新しい使い方の追加やモデルの更新のたびに見直します。
教育	範囲1や2の利用者にも、入力してよい情報の基準を教えます。
	AIを使っていることと、その限界を利用者へ伝えます。

問題文のキーワード	当たる範囲
社員が公開のチャットを使う	範囲1: 一般向けアプリ
生成AIの機能付きの他社の業務アプリを契約して使う	範囲2: 企業向けアプリ
のモデルを呼び、で自社アプリを作る	範囲3: 済みモデル
を自社データでする	範囲4: ファインチューニング済みモデル
モデルを自社のデータで一から学習させる	範囲5: 自社で学習したモデル
生成AIの利用をリスクの観点で分類し、必要な対策を決めたい