「マイクロソフト系技術情報 Wiki」は、「Open棟梁Project」,「OSSコンソーシアム .NET開発基盤部会」によって運営されています。
目次 †
概要 †
詳細 †
アルゴリズム選択 †
モデル解釈・説明 †
解釈性・説明性 †
- 解釈性
- モデルの改善方法を知りたい
- ステークホルダーへモデル自体を説明
大域的・局所的 †
- 大域的
学習したデータセット全体を使ってモデルを説明する。
- 局所的
１つのデータを使った予測結果でモデルを説明する。
モデル毎の説明手法 †
- 解釈可能なモデル（Glass Box AI Model）
- ブラック・ボックスなモデル（Black Box AI Model）
- トレードオフ
一般的に、精度と解釈性・説明性はトレードオフ関係にある。
- 解釈可能なモデルを採用するなら、精度を上げる。
- ブラック・ボックスなモデルを採用するなら、解釈性・説明性を上げる。
ライブラリ・フレームワーク †
InterpretMLと言う、機械学習の解釈を説明可能
とするためのpythonライブラリ・フレームワーク
- 「高精度」を実現した「解釈可能なモデル」
Explainable Boosting Machine（EBM）
- scikit-learn準拠（Estimatorというインターフェイスが基本）
- 大域的な解釈
- 「教師データの密度」と「説明変数のスコア（結果を上げた度合い）」などで説明ができる。
- また、交互作用法で複数の説明変数のスコア（結果への影響度合い）で説明ができる。
- 局所的な解釈
- 予測が正解となる確率を上げた変数と、その度合い。
- 予測が正解となる確率を下げた変数と、その度合い。
- 「ブラック・ボックスなモデル」の局所的な説明を行う。
ある入力xをモデルがyと予測したときに、その予測の根拠を説明として提示する。
参考 †
YouTube? †
- Module
- #1 環境準備
- #2 解釈性の高いモデルを構築する
- #3 BlackBox? モデルを説明する
Microsoft Docs †
Tags: :クラウド, :BI/AI, :Azure
![[PukiWiki]](image/pukiwiki.png "[PukiWiki]")
