AIF / ドメイン4 責任あるAIのガイドライン
生成AIの法的リスクと知的財産
の導入では、技術面だけでなく法的なリスクの検討が必要です。 AIF-C01では、どのリスクが問題になるか、どう抑えるかが問われます。
概要
に固有の法的リスクは、主に次の4つに整理できます。
| リスク | 内容 |
|---|---|
| の侵害 | 生成物が既存の著作物に類似する、の利用条件に反する。 |
| と機密情報 | 入力した情報の扱い、出力への混入。 |
| 偏った出力 | 属性による不当な扱いが差別として問題になる。 |
| 誤情報による損害 | 事実でない出力を業務判断に使い損害が生じる。 |
| 信頼の喪失 | 不適切な出力の公開により顧客の信用を失う。 |
主要技術
①知的財産の観点 ⚠️ 頻出
| 観点 | 検討すること |
|---|---|
| の権利 | 使用してよいデータかを確認します。 |
| 生成物の類似 | 既存の著作物に似すぎていないかを確認します。 |
| 生成物の権利 | 生成物を商用利用してよいか、モデルの利用条件を確認します。 |
| 出所の表示 | AIが生成したことを示すか判断します。 |
| 補償の有無 | 提供者がに関する補償を提供しているか確認します。 |
⚠️ 頻出: 生成物をそのまま商用の素材として公開する運用は、確認の手順を欠くと権利上の問題になります。
②入力する情報の扱い
| 観点 | 対策 |
|---|---|
| の入力 | 入力してよい範囲を方針として定めます。 |
| 機密情報の入力 | 入力前に検知して隠ぺいします。 |
| 学習への利用 | では入力がの学習に使われません。 |
| 保管と削除 | 記録の保持期間と削除の手順を決めます。 |
③偏った出力と差別
属性による不当な差は、法令上の問題になり得ます。
| 対策 | 内容 |
|---|---|
| の測定 | 集団ごとの件数、承認率、誤りの率などの指標を算出して比べます。 |
| データの見直し | 不足している集団のデータを補います。 |
| 人間の確認 | 影響の大きい判断に確認を挟みます。 |
| 記録 | 判断の根拠と経緯を残します。 |
④誤情報と説明責任
| 対策 | 内容 |
|---|---|
| 根拠付け | で参照文書に基づかせます。 |
| 出典の提示 | 利用者が検証できるようにします。 |
| 免責と注意の表示 | 最終判断は人が行うことを示します。 |
| 用途の制限 | 医療、法務、金融などの助言に使う範囲を限定します。 |
| 助言に当たる出力を遮ります。 |
⚠️ 頻出: 専門的な助言に該当する回答を避けたい場合は、ガードレールの禁止話題で遮ります。
⑤組織としての備え
| 項目 | 内容 |
|---|---|
| 利用方針 | 何に使ってよいか、入力してよい情報の範囲を定めます。 |
| 責任者の設定 | 判断と承認の担当を決めます。 |
| 審査の手順 | 新しい用途を始める前の確認手順を定めます。 |
| 教育 | 利用者へリスクと手順を周知します。 |
| 記録と監査 | 利用の記録を残し、定期的に見直します。 |
AWSのサービスとしては、で第三者による監査報告書を入手し、で統制の証跡を集められます。
試験対策
①判断マトリクス
| 問題文のキーワード | 対応 |
|---|---|
| 生成物が既存の著作物に似ている懸念 | の確認と生成物のレビュー |
| 機密情報の入力を防ぎたい | 利用方針と入力の検査、 |
| 入力が学習に使われないか懸念 | では学習に使われません。 |
| 属性による不当な差の懸念 | の測定と人間の確認 |
| 誤情報による損害の懸念 | による根拠付けと出典提示 |
| 専門的な助言を避けたい | ガードレールの禁止話題 |
| の証跡が必要 | 、 |
②よくある誤答
- 法的リスクを技術で完全に解消できると考えること。方針と手順の整備が必要です。
- 生成物に権利の問題は生じないと考えること。利用条件と類似性の確認が必要です。
- 入力の扱いをサービス共通と考えること。サービスごとに条件を確認します。