AIF / ドメイン4 責任あるAIのガイドライン
バイアスと分散、過学習と未学習
モデルの性能が出ない原因は、大きくと分散に分けて考えられます。 AIF-C01では、症状の説明から原因と対策を選ぶ問題が出ます。
概要
は、モデルが単純すぎて規則性を捉えられないことによる誤りです。 分散は、モデルがに敏感すぎて、データが変わると結果が大きく揺れることです。
| 状態 | 学習データでの精度 | 未知のデータでの精度 | 原因 |
|---|---|---|---|
| 低い | 低い | モデルが単純すぎる、が足りない | |
| 適切 | 高い | 高い | 釣り合いが取れています。 |
| 非常に高い | 低い | モデルが複雑すぎる、データが少ない |
⚠️ 頻出: 「学習データでは高精度なのに本番で当たらない」は過学習、「どちらも精度が低い」は未学習です。
主要技術
①過学習への対策
| 対策 | 内容 |
|---|---|
| データを増やす | 多様なデータで一般化を促します。 |
| モデルを単純にする | 表現力を抑えます。 |
| 重みが大きくなりすぎないよう制約します。 | |
| 早期終了 | の性能が悪化した時点で学習を止めます。 |
| 交差検証 | データの分け方を変えて安定性を確認します。 |
| を減らす | 無関係な特徴を除きます。 |
②未学習への対策
| 対策 | 内容 |
|---|---|
| モデルの表現力を上げる | より複雑なモデルへ変えます。 |
| を増やす、作り込む | 予測に効く情報を与えます。 |
| 学習を十分に行う | 学習回数や時間を増やします。 |
③公平性の意味でのバイアス ⚠️ 頻出
同じ「」という語が、統計的な偏りと社会的な不公平の両方に使われます。 試験ではどちらの意味かを文脈で読み分けます。
| 用法 | 意味 | 対策 |
|---|---|---|
| 統計的なバイアス | モデルが単純すぎることによる誤り | モデルやの見直し |
| のバイアス | 属性による不当な差 | データの多様性、指標の測定、監視 |
⚠️ 頻出: 「特定の年齢層で承認率が著しく低い」という記述は公平性のバイアスです。集団ごとの承認率や件数をバイアス指標として集計して測ります ( Clarifyは2026年7月30日に新規の受け付けを終えました)。
④評価データの分け方
| 用途 | 役割 |
|---|---|
| モデルを学習させます。 | |
| の調整に使います。 | |
| 最終確認に一度だけ使います。 |
テストデータで調整を繰り返すと、そのデータに合わせたが起きて評価が甘くなります。
試験対策
①判断マトリクス
| 問題文のキーワード | 判断 | 対策 |
|---|---|---|
| で高精度、本番で低精度 | データ増加、、単純化 | |
| 学習データでも精度が低い | モデルの表現力、の追加 | |
| 属性間で結果に差がある | の | データの見直し、集団ごとの指標の測定 |
| 運用中に徐々に精度が落ちる | 、入力の分布の監視 | |
| の精度が途中から悪化 | 過学習の開始 | 早期終了 |
②よくある誤答
- の対策としてモデルをさらに複雑にすること。逆の対応です。
- 統計的なとのバイアスを同じ対策で解決できると考えること。
- を使って調整を繰り返すこと。評価が信用できなくなります。