生成AIパスポート 用語集AI事業者ガイドラインとAI社会原則
トレーサビリティとはとれーさびりてぃ
トレーサビリティの意味
トレーサビリティとは、データの出どころや、AIの開発・提供・利用の過程で行われた意思決定などを、技術的に可能で合理的な範囲で追跡し、さかのぼって確認できる状態のことです。AI事業者ガイドラインでは、共通の指針「アカウンタビリティ」に含まれる「トレーサビリティの向上」として求められています。
生成AIパスポート試験の対策なら → 無料の合格アプリ
詳しい解説
トレーサビリティはもともと、食品や工業製品で「どこで作られ、どの経路で届いたか」を追跡できる仕組みを指す言葉です。AIでも同様に、問題が起きたときに原因をたどれることが重要になります。
たとえば生成AIが不適切な出力をした場合、次のような点をさかのぼれると、責任の所在や改善策がはっきりします。
- どのデータで学習したか(データの出所)
- どのバージョンのモデル・設定を使ったか
- 誰がどの段階でどんな判断をしたか
AI開発者やAI提供者は、トレーサビリティを高めるために、開発に関する情報やシステムアーキテクチャなどを文書化することが求められています。透明性側の「検証可能性」(ログの記録・保存)とは近い考え方ですが、所属する指針が異なります。
試験のポイント
トレーサビリティの確認問題(○×)
トレーサビリティの向上は、AI事業者ガイドラインの共通の指針のうち「公正競争確保」に含まれる内容である。
答えと解説を見る
答え:×
トレーサビリティの向上は、共通の指針⑦「アカウンタビリティ」に含まれる内容です。
トレーサビリティとあわせて覚えたい関連用語
- アカウンタビリティアカウンタビリティとは、日本語で「説明責任」と訳される言葉で、AI事業者ガイドラインの共通の指針の7つ目です。
- 検証可能性検証可能性とは、AIシステム・サービスがどのように作られ、どのように動いたかを、後から確かめられる状態のことです。
- 文書化文書化とは、AIの開発・提供・利用に関する情報を文書として記録し、一定期間保管して、必要なときに必要な場所で入手・利用しやすい形で参照できる…
- AI開発者AI開発者とは、AI事業者ガイドラインで定められた事業活動の3つの主体(AI開発者・AI提供者・AI利用者)の一つで、AIシステムを開発する…
- AI提供者AI提供者とは、AI事業者ガイドラインの3つの主体の一つで、AIシステムをアプリケーションや製品、既存のシステム、業務プロセスなどに組み込み…