生成AIパスポート 用語集AI事業者ガイドラインとAI社会原則
説明可能性とはせつめいかのうせい
英語Explainability別名説明可能性・解釈可能性、解釈可能性（Interpretability）、XAI（説明可能なAI）分野AI事業者ガイドラインとAI社会原則出題重要度★★☆公式テキスト公式テキスト 第4章「共通の指針 6 透明性」
解説：村井宗明（GUGA協議員・元文部科学大臣政務官・AIエンジニア）｜公開 ｜更新
説明可能性の意味
説明可能性とは、AIがなぜその出力や判断に至ったのかを、人間が理解できる形で説明できる性質のことです。AI事業者ガイドラインでは「説明可能性・解釈可能性」として共通の指針「透明性」に含まれ、ステークホルダーの納得感や安心感を得られるよう、説明を受ける側が必要とする情報を適切に示すことが求められています。
生成AIパスポート試験の対策なら → 無料の合格アプリ
詳しい解説
ディープラーニングを使ったAIは、膨大なパラメータの組み合わせで答えを出すため、判断の根拠が人間には見えにくい「ブラックボックス」になりがちです。説明可能性は、このブラックボックスを少しでも開き、判断の理由を示そうとする考え方です。
- 説明可能性（Explainability）：判断の理由を人に説明できること
- 解釈可能性（Interpretability）：モデルの仕組みや振る舞いを人が理解できること
ガイドラインで大切なのは、「説明を受ける側にとって必要な情報」を示すという視点です。技術者向けの詳細な数式ではなく、利用者が納得できる理由（たとえば「この項目が判断に大きく影響した」など）を伝えることが求められます。説明可能性を高める技術は「XAI（説明可能なAI）」と呼ばれます。
試験のポイント
- 公式テキストでは「説明可能性・解釈可能性」として、共通の指針⑥「透明性」に含まれる
- 目的は「ステークホルダーの納得感・安心感」
- 「説明を受ける側が必要とする情報を適切に示す」がキーワード
- ⑦アカウンタビリティ（説明責任）とは別概念。所属する指針の違いに注意
説明可能性の確認問題（○×）
AI事業者ガイドラインで説明可能性・解釈可能性の向上は、共通の指針「透明性」に含まれる内容である。
答えと解説を見る
答え：○
透明性には、検証可能性の確保や情報提供とともに、説明可能性・解釈可能性の向上が含まれます。
生成AIパスポート 用語集（全407語）のトップに戻る
