AIF / ドメイン3 基盤モデルの応用
重要な内容
カスタマイズ手法の比較
を目的へ寄せる方法には段階があります。 AIF-C01では、要件とコストからどの手法を選ぶかを判断する問題が最も多く出ます。
概要
カスタマイズの手法は、コストと手間の低い順に次の4段階です。
| 手法 | 変わるもの | コスト | 更新のしやすさ |
|---|---|---|---|
| 入力の書き方 | 最小 | 即時 | |
| (検索拡張生成) | 与える知識 | 低い | 文書の差し替えで即時 |
| モデルの重み (振る舞い) | 高い | が必要 | |
| モデルの重み (語彙や領域知識) | 最も高い | 再学習が必要 |
原則として、上から順に試して足りない場合に次へ進みます。
主要技術
①手法ごとの適した要件 ⚠️ 頻出
| 要件 | 選ぶ手法 | 理由 |
|---|---|---|
| 出力の形式を整えたい | 指示と例で足ります。 | |
| 社内文書に基づいて答えたい | 知識を外から与えられます。 | |
| 情報が頻繁に更新される | RAG | 文書を入れ替えるだけで反映されます。 |
| 回答の根拠 (出典) を示したい | RAG | 参照文書を提示できます。 |
| 独自の文体や様式で必ず出力したい | 振る舞いを学習させます。 | |
| 特定の分類タスクの精度を上げたい | ファインチューニング | 例を大量に学習させます。 |
| 業界固有の語彙や表現に根本から適応させたい | 大量の領域データで追加学習します。 | |
| 大きなモデル並みの精度を、速く安く出したい | 大きなモデルの回答で小さなモデルを学習させます。 |
⚠️ 頻出: 知識の追加はRAG、振る舞いの調整はファインチューニングという対応が判断の軸です。
②コストと必要なデータ
| 手法 | 必要なデータ | 準備の手間 | 実行の費用 |
|---|---|---|---|
| (コンテキスト内学習を含む) | 例が数件あれば十分です。 | 小 | のみ。ただし例は毎回の入力に含めるため、例の分だけの費用が増えます。 |
| 検索対象の文書 | 中 (取り込みと分割) | 推論と、保管先 | |
| ラベル付きの入出力対 (数百から数千件) | 大 | 学習と、モデルの保管や専用 | |
| 大量のラベルなし領域データ | 大 | 高い | |
| (独自のをゼロから作る) | 膨大で多様なデータ | 最大 | 大規模な計算資源が要り、最も高くなります。通常の業務では事前学習済みのモデルを選びます。 |
| 用途の (正解の回答はが作ります) | 中 | 教師の推論と生徒の学習の費用がかかりますが、その後の推論の単価は下がります。 |
⚠️ 頻出: ファインチューニングにはの整備が必要で、学習後もモデルを動かすための費用が続きます。
③組み合わせ
手法は排他ではありません。
| 組み合わせ | 効果 |
|---|---|
| + | 根拠を与えつつ出力形式を整えます。 |
| + RAG | 文体を固定しつつ最新知識を与えます。 |
| + ファインチューニング | 領域適応の上で用途を絞ります。 |
④選定の手順
- まずで解けないかを試します。
- 知識が足りないならを追加します。
- 出力の様式や精度がなお足りないならを検討します。
- 語彙そのものが合わない専門領域ならを検討します。
この順序は、コストとリスクが低い方から試すという考え方に基づきます。
試験対策
①判断マトリクス
| 問題文のキーワード | 選ぶ手法 |
|---|---|
| 追加コストを最小にしたい | |
| 社内の最新情報を反映したい | |
| 出典を示す必要がある | RAG |
| 決まった書式で必ず出力させたい | |
| 少量の例で挙動を変えたい | の |
| 大量の専門文書で語彙を寄せたい | |
| が用意できない | RAGまたはプロンプト |
| 精度を大きく落とさずにを速く安くしたい |
②よくある誤答
- 社内知識の追加にを選ぶこと。知識はで与えます。
- 出力形式の乱れにファインチューニングを選ぶこと。まずで例と形式を示します。
- を安価な選択肢と考えること。最も費用とデータ量を要します。