AIF / ドメイン3 基盤モデルの応用

Amazon Bedrock Prompt Management

(プロンプト管理) は、を作成、試験、保存し、版 (バージョン) を付けて再利用する機能です。 AIF-C01では、Prompt Managementを使ったプロンプトのバージョン管理と管理の戦略が問われます。


概要

をアプリケーションのコードへ直接書くと、変更のたびにコードを直す必要があり、どの文面で動いていたかも追いにくくなります。 では、プロンプトをの中で部品として管理し、検証した版をアプリケーションから呼び出します。

概要の図 下書き作成と編集 試験変数に値を入れて実行 バリアントの比較 バージョンの作成その時点の写し アプリケーション推論の呼び出し / Flows
用語意味
プロンプトモデルへ渡す入力です。使うモデルとも一緒に保存します。
変数プロンプトの中の差し込み箇所です。試験のときや呼び出しのときに値を入れます。
バリアント文面、モデル、推論パラメーターを変えたプロンプトの別案です。並べて比較できます。
プロンプトビルダーコンソールでプロンプトを作成、編集、試験する画面です。
下書き (ドラフト)編集中の版です。保存して改良を続けます。
バージョン下書きをある時点で写し取ったものです。本番ではバージョンを使います。

試験では、「プロンプトをチームで共有し、変更の履歴を残して、本番に使う版を切り替えたい」という要件でPrompt Managementを選びます。

Point
  • version は「版」です。ある時点の内容を固定したものを指します。
  • variant は「変種、別案」です。同じ目的のプロンプトの別の書き方を指します。
  • 覚え方: バリアントは横に並べて比べる別案、バージョンは縦に積み重なる履歴 です。
  • 和訳

主要技術

①変数によるテンプレート化 ⚠️ 頻出

変数を使うと、1つのを複数の用途で使い回せます。

例変数
「次の{{文書}}を{{対象読者}}向けに要約してください。」文書、対象読者
「{{商品名}}の紹介文を{{文字数}}字で書いてください。」商品名、文字数

⚠️ 頻出: 同じ形の依頼を値だけ変えて繰り返すなら、変数を含むプロンプトテンプレートとして管理します。


②バリアントの比較

比べるもの例
文面指示の順番、例の有無、出力形式の指定
モデル大きなモデルと小さなモデル
、出力の最大長

同じ入力で出力を並べ、品質、長さ、費用の観点から採用する案を決めます。


③バージョンによる管理 ⚠️ 頻出

段階すること
下書きで改良する文面や設定を変えて保存し、試験を繰り返します。
バージョンを作る満足できる設定になったら、その時点の写しとしてバージョンを作ります。
アプリケーションで使うアプリケーションは特定のバージョンを指定して呼び出します。
切り替えと戻し新しいバージョンへ切り替え、問題があれば前のバージョンへ戻します。
比べるバージョン同士の違いを比べます。

⚠️ 頻出: 本番のアプリケーションは、編集中の下書きではなく、検証済みのバージョンを指定して使います。下書きの変更が本番に紛れ込むのを防げます。


④アプリケーションへの組み込み

方法内容
の呼び出しで指定するモデルの呼び出し時に、保存したを指定します。
で使うワークフローのプロンプトの節点に、保存したプロンプトを指定します。

Amazon Bedrock Flowsは、プロンプト、、知識ベース、などをつないで処理の流れを作る機能です。 Flowsでも、検証した流れをバージョンとして固定し、別名 (エイリアス) が指すバージョンを切り替えて本番へ出します。


⑤関連する機能

機能内容
の最適化指定したモデルに合わせて、がプロンプトを書き直した案を出します。元の文面と並べて比較できます。
対応するモデルでは、プロンプトの設定でを有効にし、繰り返し使う部分の処理を省けます。
プロンプトで方針を示し、ガードレールで入出力の内容を強制的に検査します。

⑥管理の戦略

戦略内容
コードから分離するをコードに埋め込まず、で一元管理します。
評価してから版を作る評価用のデータで出力を確かめてからバージョンにします。
本番は版を固定する呼び出し側で使うバージョンを明示します。
変更の理由を残す説明文に変更の目的を書き、監査や振り返りに使います。
権限を分ける編集できる人と本番の版を切り替えられる人をで分けます。

試験対策

①判断マトリクス

問題文のキーワード選ぶもの
を保存して複数のアプリケーションで再利用したい
値だけ変えて同じ形の依頼を繰り返したい変数を含むプロンプト
文面やモデルの違う案を並べて比べたいバリアントの比較
本番で使う文面を固定し、問題があれば戻したいバージョン
プロンプトや知識ベース、をつないだ流れを作りたい
モデルに合わせてプロンプトを改善した案が欲しいプロンプトの最適化

②よくある誤答

  • 本番のアプリケーションから下書きを直接使うこと。検証済みのバージョンを指定します。
  • でモデルの重みが変わると考えること。管理するのはとの設定です。
  • プロンプトの管理でを防げると考えること。入出力の検査はです。

参考文献

  1. ※1出題比率: AWS 公式の試験ガイドに記載された、採点対象の設問のうちその分野が占める割合です。

検索

キーワードを入力してください