Amazon SageMaker Clarify

Clarifyは、の検出と予測の説明を行う機能です。とというの2つの観点を、測定できる形にします。

なお、SageMaker Clarifyは2026年7月30日に新規の利用者の受け付けを終えました。既存の利用者は引き続き使えますが、新しい機能は追加されない予定です。新しく作る構成では、Clarifyを選ばずに次の手段を使います。

偏りの指標: Clarifyが出していた指標は公開された標準の計算式なので、pandasやscikit-learnで自分で計算します。
予測の説明: Clarifyの内部でも使われているSHAPのライブラリを直接使います。
継続的な監視と記録: AWSが公開しているオープンソースのSageMaker AIの監視ソリューションで定期的に計算し、結果をSageMaker AIのMLflowに記録します。
の評価: のモデル評価とを使います。これはの評価の代わりで、表形式のデータのバイアス検出や説明の代わりにはなりません。

試験では、製品名よりも「学習前と学習後に偏りを測る」「の寄与で予測の理由を示す」という考え方が問われます。

概要

Clarifyには大きく2つの役割があります。

役割	内容
の検出	属性ごとの偏りを指標として算出します。
	予測に対する各の寄与を示します。
監視との連携	Model Monitorと組み合わせ、運用中の偏りと寄与の変化を追います (Model Monitorも新規の受け付けを終えています)。
の評価	の出力の評価にも利用できます。

学習に使うデータそのものの偏りを測ります。モデルを作る前に問題を見つけられる点が重要です。

見るもの	例
集団ごとの件数の偏り	特定の年齢層のデータが極端に少ない。
ラベルの偏り	ある集団で肯定ラベルの割合が著しく低い。

⚠️ 頻出: 対策は学習後だけでなく学習前のデータ段階でも測るのが正しい進め方です。

学習したモデルの予測結果に偏りがないかを測ります。

見るもの	内容
予測結果の差	集団ごとに肯定判定の割合が違わないか。
誤りの差	集団ごとに見逃しや誤検知の率が違わないか。

指標の値だけで良し悪しは決まりません。業務の文脈で許容できる差かを人が判断します。

各が予測へどれだけ寄与したかを算出します。表形式のデータでは、どの項目が判断を押し上げたか、下げたかを見られます。

⚠️ 頻出: 「なぜこの判断になったのかを説明したい」という要件は (特徴量の寄与) です。新しく作るならSHAPで寄与を算出します。

機能	役割
Clarify	の測定と予測の説明 (新規の受け付けを終了。新しく作るなら指標の自前計算とSHAP)
SageMaker Model Monitor	本番のデータ品質とモデル品質の監視 (新規の受け付けを終了。新しく作るならオープンソースの監視ソリューションと)
SageMaker Model Cards	モデルの用途と制約の文書化
	の入出力の制御
	人間による確認の組み込み (新規の受け付けを終了)

問題文のキーワード	選ぶもの
の偏りを測りたい	学習前の指標 (集団ごとの件数とラベルの割合) を計算する
モデルの予測に属性差がないか確かめたい	学習後のバイアス指標 (集団ごとの予測と誤りの率) を計算する
予測の理由をで説明したい	SHAPによる特徴量の寄与
本番の精度低下を検知したい	監視の仕組み (オープンソースの監視ソリューション、の)
の出力を評価したい	のモデル評価
モデルの用途と制約を残したい	Model Cards
の有害出力を遮りたい