生成AIパスポート 用語集AI事業者ガイドラインとAI社会原則
検証可能性とはけんしょうかのうせい
英語Verifiability分野AI事業者ガイドラインとAI社会原則出題重要度★★☆公式テキスト公式テキスト 第4章「共通の指針 6 透明性」
解説：村井宗明（GUGA協議員・元文部科学大臣政務官・AIエンジニア）｜公開 ｜更新
検証可能性の意味
検証可能性とは、AIシステム・サービスがどのように作られ、どのように動いたかを、後から確かめられる状態のことです。AI事業者ガイドラインでは共通の指針「透明性」に含まれる内容とされ、その確保のために、開発の過程や、利用時の入力と出力のログを記録・保存しておくことが求められています。
生成AIパスポート試験の対策なら → 無料の合格アプリ
詳しい解説
AIが問題のある出力をしたとき、記録がなければ「何が入力されたのか」「どのモデル・設定で動いたのか」を確かめられず、原因究明も再発防止もできません。検証可能性は、こうした事後の確認を可能にするための備えです。
具体的には、次のような記録が役立ちます。
- 学習に使ったデータやモデルのバージョン、設定などの開発記録
- 利用時のプロンプト（入力）と生成結果（出力）のログ
- 不具合や苦情が起きたときの対応記録
これらの記録は、アカウンタビリティの「トレーサビリティの向上」や「文書化」とも重なります。AI開発者に求められる「事後検証のための作業記録の保存」も、検証可能性を支える取り組みの一つです。
試験のポイント
- 共通の指針⑥「透明性」に含まれる内容
- 確保の方法は「開発過程や利用時の入出力ログの記録・保存」
- トレーサビリティ（追跡・遡求できる状態、アカウンタビリティ側）と混同しない
- 問題発生時の原因究明・説明の土台になる
検証可能性の確認問題（○×）
検証可能性を確保するためには、AIシステムの開発過程や利用時の入出力ログを記録・保存することが有効である。
答えと解説を見る
答え：○
ログを残すことで、後からAIの動作を確かめ、原因究明や説明に役立てられます。
生成AIパスポート 用語集（全407語）のトップに戻る
