AIF / ドメイン3 基盤モデルの応用
Amazon Bedrock Prompt Management
(プロンプト管理) は、を作成、試験、保存し、版 (バージョン) を付けて再利用する機能です。 AIF-C01では、Prompt Managementを使ったプロンプトのバージョン管理と管理の戦略が問われます。
概要
をアプリケーションのコードへ直接書くと、変更のたびにコードを直す必要があり、どの文面で動いていたかも追いにくくなります。 では、プロンプトをの中で部品として管理し、検証した版をアプリケーションから呼び出します。
| 用語 | 意味 |
|---|---|
| プロンプト | モデルへ渡す入力です。使うモデルとも一緒に保存します。 |
| 変数 | プロンプトの中の差し込み箇所です。試験のときや呼び出しのときに値を入れます。 |
| バリアント | 文面、モデル、推論パラメーターを変えたプロンプトの別案です。並べて比較できます。 |
| プロンプトビルダー | コンソールでプロンプトを作成、編集、試験する画面です。 |
| 下書き (ドラフト) | 編集中の版です。保存して改良を続けます。 |
| バージョン | 下書きをある時点で写し取ったものです。本番ではバージョンを使います。 |
試験では、「プロンプトをチームで共有し、変更の履歴を残して、本番に使う版を切り替えたい」という要件でPrompt Managementを選びます。
Point
- version は「版」です。ある時点の内容を固定したものを指します。
- variant は「変種、別案」です。同じ目的のプロンプトの別の書き方を指します。
- 覚え方: バリアントは横に並べて比べる別案、バージョンは縦に積み重なる履歴 です。
- 和訳
- variant: 変種、異形
- Weblio英和辞書「variant」
主要技術
①変数によるテンプレート化 ⚠️ 頻出
変数を使うと、1つのを複数の用途で使い回せます。
| 例 | 変数 |
|---|---|
| 「次の{{文書}}を{{対象読者}}向けに要約してください。」 | 文書、対象読者 |
| 「{{商品名}}の紹介文を{{文字数}}字で書いてください。」 | 商品名、文字数 |
⚠️ 頻出: 同じ形の依頼を値だけ変えて繰り返すなら、変数を含むプロンプトテンプレートとして管理します。
②バリアントの比較
| 比べるもの | 例 |
|---|---|
| 文面 | 指示の順番、例の有無、出力形式の指定 |
| モデル | 大きなモデルと小さなモデル |
| 、出力の最大長 |
同じ入力で出力を並べ、品質、長さ、費用の観点から採用する案を決めます。
③バージョンによる管理 ⚠️ 頻出
| 段階 | すること |
|---|---|
| 下書きで改良する | 文面や設定を変えて保存し、試験を繰り返します。 |
| バージョンを作る | 満足できる設定になったら、その時点の写しとしてバージョンを作ります。 |
| アプリケーションで使う | アプリケーションは特定のバージョンを指定して呼び出します。 |
| 切り替えと戻し | 新しいバージョンへ切り替え、問題があれば前のバージョンへ戻します。 |
| 比べる | バージョン同士の違いを比べます。 |
⚠️ 頻出: 本番のアプリケーションは、編集中の下書きではなく、検証済みのバージョンを指定して使います。下書きの変更が本番に紛れ込むのを防げます。
④アプリケーションへの組み込み
| 方法 | 内容 |
|---|---|
| の呼び出しで指定する | モデルの呼び出し時に、保存したを指定します。 |
| で使う | ワークフローのプロンプトの節点に、保存したプロンプトを指定します。 |
Amazon Bedrock Flowsは、プロンプト、、知識ベース、などをつないで処理の流れを作る機能です。 Flowsでも、検証した流れをバージョンとして固定し、別名 (エイリアス) が指すバージョンを切り替えて本番へ出します。
⑤関連する機能
| 機能 | 内容 |
|---|---|
| の最適化 | 指定したモデルに合わせて、がプロンプトを書き直した案を出します。元の文面と並べて比較できます。 |
| 対応するモデルでは、プロンプトの設定でを有効にし、繰り返し使う部分の処理を省けます。 | |
| プロンプトで方針を示し、ガードレールで入出力の内容を強制的に検査します。 |
⑥管理の戦略
| 戦略 | 内容 |
|---|---|
| コードから分離する | をコードに埋め込まず、で一元管理します。 |
| 評価してから版を作る | 評価用のデータで出力を確かめてからバージョンにします。 |
| 本番は版を固定する | 呼び出し側で使うバージョンを明示します。 |
| 変更の理由を残す | 説明文に変更の目的を書き、監査や振り返りに使います。 |
| 権限を分ける | 編集できる人と本番の版を切り替えられる人をで分けます。 |
試験対策
①判断マトリクス
| 問題文のキーワード | 選ぶもの |
|---|---|
| を保存して複数のアプリケーションで再利用したい | |
| 値だけ変えて同じ形の依頼を繰り返したい | 変数を含むプロンプト |
| 文面やモデルの違う案を並べて比べたい | バリアントの比較 |
| 本番で使う文面を固定し、問題があれば戻したい | バージョン |
| プロンプトや知識ベース、をつないだ流れを作りたい | |
| モデルに合わせてプロンプトを改善した案が欲しい | プロンプトの最適化 |
②よくある誤答
- 本番のアプリケーションから下書きを直接使うこと。検証済みのバージョンを指定します。
- でモデルの重みが変わると考えること。管理するのはとの設定です。
- プロンプトの管理でを防げると考えること。入出力の検査はです。