AIF / ドメイン3 基盤モデルの応用

重要な内容

検索拡張生成 (RAG)

(RAG) は、外部の情報を検索してへ添え、その内容に基づいてに答えさせる方式です。 AIF-C01では、社内情報や最新情報を扱う要件の標準的な答えとして頻出します。

概要

は学習した時点までの一般知識しか持ちません。 社内規程や最新の在庫状況について聞かれると、知らないまま答えを作ってしまいます。

では、質問に関連する文書を先に検索し、その内容と一緒に質問をモデルへ渡します。

概要の図 利用者の質問 質問をベクトル化 ベクトルデータベースを検索 関連する文書の断片 質問 + 関連文書 基盤モデル 根拠に基づく回答
Point
  • RAG = Retrieval-Augmented Generation（検索拡張生成） の略です。
  • retrieval は「取り出す、検索」、augment は「増やす、補強する」 です。
  • 「検索で補強した生成」と読み解けます。
  • 和訳

主要技術

①RAGが解決する問題 ⚠️ 頻出

問題での解決
社内固有の情報を知らない社内文書を検索して渡します。
最新情報を反映できない文書を更新すれば即座に反映されます。
事実でない回答を作る根拠となる文書に基づかせます。
根拠を示せない参照した文書を出典として提示できます。

⚠️ 頻出: 「頻繁に更新される情報を反映したい」「回答の根拠を示したい」という要件はRAGです。では更新のたびに学習が必要になります。

②構成要素

要素役割AWSでの選択肢
文書の保管元データを置きます。
分割文書をへ分けます。知識ベースの設定、または自作の処理
チャンクを化します。 ()
ベクトルの保管と検索近いベクトルを高速に探します。、 PostgreSQL、 Analytics、、 for PostgreSQL
生成回答を組み立てます。Amazon Bedrockの
構築の代行上記をまとめて構成します。
文書検索の代替既存の検索の索引を使い続けます。新規の受け付けは終わっており、新しく作るなら知識ベースを使います。 (既存の利用者のみ)

③精度を上げる工夫

工夫効果
の大きさと重なりの調整文脈の切れと混入を抑えます。
取り出す件数の調整少なすぎると根拠不足、多すぎると焦点がぼやけます。
メタデータでの絞り込み部門や日付で対象を限定します。
キーワード検索との併用型番など完全一致が必要な語に対応します。
出典の提示利用者が検証できるようにします。
見つからない場合の指示「資料に無ければ分からないと答える」と明示します。

⚠️ 頻出: 「資料に根拠がないときは分からないと答える」ようで指示することが、対策として有効です。

④RAGとファインチューニングの比較 ⚠️ 頻出

観点
目的知識を与えます。出力の様式や振る舞いを寄せます。
更新のしやすさ文書を差し替えるだけです。が必要です。
初期コスト低いです。高いです。
根拠の提示できます。できません。
適する要件社内情報、最新情報、根拠が必要な回答文体の統一、独自の出力形式

両方を併用することもできます。

⑤権限とセキュリティ

では、検索の段階で利用者が見てよい文書だけを対象にする必要があります。 権限を無視して検索すると、閲覧権限のない内容が回答に混ざります。

対策内容
メタデータによる絞り込み利用者の属性で対象文書を制限します。
元システムの権限を反映 (マネージド型) やの、文書単位のアクセス制御を使います。
ログの記録誰がどの情報を得たかを追えるようにします。

⚠️ 頻出: 「利用者ごとの閲覧権限を保ったまま社内文書を根拠にしたい」という要件では、権限を反映できる検索の仕組みを選びます。

試験対策

①判断マトリクス

問題文のキーワード選ぶ方法
社内文書に基づいて答えたい
情報が頻繁に更新されるRAG
回答の出典を示したいRAG
出力の書式や文体を固定したい
専門用語の語彙から変えたい
RAGの構築を任せたい
権限を保った検索が必要文書単位のアクセス制御に対応した知識ベース (Bedrock Knowledge Basesのマネージド型、)

②よくある誤答

  • 社内知識の反映にを選ぶこと。知識の追加はの役割です。
  • RAGにすれば誤りがなくなると考えること。検索が外れれば誤答は起きます。
  • 検索結果を渡す量を増やせば精度が上がると考えること。無関係な内容が混ざると逆効果です。

参考文献

  1. ※1出題比率: AWS 公式の試験ガイドに記載された、採点対象の設問のうちその分野が占める割合です。

検索

キーワードを入力してください