Amazon Bedrock Guardrails

() は、の入力と出力を検査して望まない内容を遮る機能です。を実装で支える中心の機能として、AIF-C01で頻出します。

概要

は、利用者の入力とモデルの出力の両方を検査します。での指示は守られないことがあるため、仕組みとして強制する層を置く考え方です。

試験では、「有害な出力を防ぎたい」「特定の話題に答えさせたくない」「を出させたくない」という要件で選びます。

機能	内容
有害カテゴリーのフィルター	憎悪、侮辱、暴力、性的表現、不正行為などをしきい値付きで遮ります。
禁止話題	「投資助言はしない」のように話題を定義して拒否します。
語句のフィルター	特定の単語や表現を遮ります。
機密情報のフィルター	を検出して隠ぺいまたは遮断します。
根拠の確認	与えた参照文書に基づかない回答を検出します。
攻撃の検出	やの試行を検出します。
	定めた規則との整合を検証します。

⚠️ 頻出: 「参照文書に根拠のない回答を弾きたい」という要件は根拠の確認 (の検査) です。対策の一つになります。

有害カテゴリーのフィルターは、カテゴリーごとに強さ (なし、低、中、高) を選び、入力と出力のそれぞれに適用できます。強くするほど遮る範囲が広がります。
禁止話題は、名前、定義、例文 (最大5つ) で話題を指定します。定義は話題の内容を簡潔かつ正確に書き、「〜以外のすべて」のような除外や否定の形にしません。定義が広すぎると、正当な質問まで遮ります。
競合他社の製品名のような特定の単語は、禁止話題ではなく語句のフィルターで指定します。禁止話題は文脈から話題を判定する機能で、個々の単語を捉える用途には向きません。語句のフィルターには、不適切な表現の一覧を使う設定もあります。

Bedrock以外のモデル (でホストしたモデルなど) では、ApplyGuardrail で任意の文章をに評価させます。を呼び出さずに、入力と出力をそれぞれ検査できます。

複数のガードレールを用途別に作り、アプリケーションごとに使い分けられます。

観点	内容
しきい値の調整	厳しすぎると正当な質問も遮り、緩すぎると危険を通します。
拒否メッセージ	遮ったときに返す文言を用意します。
記録	遮断の発生を記録し、運用で見直します。
多層防御	、、権限、監視を重ねます。

⚠️ 頻出: ガードレールはプロンプトの代わりではありません。プロンプトで方針を示し、ガードレールで強制します。

機能	役割
	の入出力の内容を制御します。
	誰がどのを呼べるかを制御します。
	Webアプリケーションへの通信を制御します。
指標の計算とSHAP	バイアスの測定と予測の説明を行います ( Clarifyは新規の受け付けを終えました)。
	テキストのや有害表現を検出します。

⚠️ 頻出: 権限の制御はIAM、通信の防御はWAF、生成内容の制御はです。