SageMaker AI Autopilot による SageMaker Clarify の説明可能性

Autopilot では、Amazon SageMaker Clarify が提供するツールを使用して、機械学習 (ML) モデルが予測を行う方法についてのインサイトを提供することができます。これらのツールは、ML エンジニア、プロダクトマネージャーなどの社内利害関係者がモデルの特性を理解するのに役立ちます。モデル予測に基づく決定を信頼して解釈するうえで、消費者や規制当局はともに機械学習の透明性を求めています。

Autopilot の説明機能は、モデルに依存しない特徴量帰属アプローチを使用します。このアプローチは、モデルの出力に対する個々の特徴量や入力の寄与度を判断し、さまざまな特徴量の関連性についてのインサイトを提供します。これを使用して、モデルがトレーニング後に予測を行った理由を理解したり、推論中にインスタンスごとの説明を提供したりできます。実装には、SHAP (Shapley Additive Explanations) のスケーラブルな実装などがあります。この実装は、協力ゲーム理論の Shapley 値の概念に基づいており、各特徴量に特定の予測の重要度値を割り当てます。

SHAP の説明は、監査と規制要件の遵守、モデルへの信頼の構築、人間による意思決定のサポート、モデルのパフォーマンスのデバッグと改善に使用できます。

Shapley 値とベースラインの詳細については、「説明可能性のための SHAP ベースライン」を参照してください。

Amazon SageMaker Clarify ドキュメンテーションのガイドについては、「Guide to the SageMaker Clarify Documentation」を参照してください。