生成AIパスポート 用語集AI事業者ガイドラインとAI社会原則
バイアスとはばいあす
バイアスの意味
バイアスとは、偏見や思い込み、考え方やデータの偏りのことです。生成AIは学習データをもとに出力を作るため、データやシステム設計に偏りがあると、差別的な表現や特定の視点に偏った内容など、その偏りが出力にも表れます。AI事業者ガイドラインでは、共通の指針「公平性」の中で、バイアスへの配慮が求められています。
生成AIパスポート試験の対策なら → 無料の合格アプリ
詳しい解説
バイアスが入り込む経路は、学習データの偏り、モデルの設計、使う人のプロンプトなど多岐にわたります。生成AIの種類ごとに、次のような形で現れ得ます。
AI事業者ガイドラインでは、主体ごとに役割が分かれています。AI開発者はデータやモデルの構成技術に含まれるバイアスを点検し、AI提供者は実装時にバイアスに配慮し、AI利用者は自分が入力するプロンプトに含まれるバイアスに注意しつつ、出力を事業に使う判断に責任を持つことが求められます。
利用者としては、AIの出力に差別的な表現や偏りがないかを必ず確認する習慣が大切です。
試験のポイント
- 原因は学習（訓練）データの偏りだけでなく、システム設計やプロンプトにもある
- 公平性の内容「AIモデルの各構成技術に含まれるバイアスへの配慮」とセットで出題
- 開発者＝データ・モデルの点検、利用者＝プロンプトのバイアスへの留意、という役割分担
- バイアスは完全にはなくせない前提で、許容可能かを評価するという考え方
バイアスの確認問題（○×）
生成AIのバイアスの原因は学習データだけであり、利用者が入力するプロンプトがバイアスを生むことはない。
答えと解説を見る
答え：×
システム設計やプロンプトもバイアスの要因になり得るため、AI利用者にはプロンプトに含まれるバイアスへの留意が求められます。
バイアスとあわせて覚えたい関連用語
- 公平性公平性とは、AI事業者ガイドラインの共通の指針の3つ目です。人種・性別・国籍・年齢・政治的信念・宗教など、人々の多様な背景を理由とした不当で…
- 人間の判断の介在人間の判断の介在とは、AI事業者ガイドラインの共通の指針「公平性」に含まれる内容の一つです。
- 訓練データ訓練データとは、機械学習のモデルが学習するために実際に使うデータのことです。
- ハルシネーションハルシネーションとは、生成AIが事実と異なる内容や、文脈と関係のない内容を、あたかも本当のことのようにもっともらしく出力してしまう現象です。
- AI開発者AI開発者とは、AI事業者ガイドラインで定められた事業活動の3つの主体（AI開発者・AI提供者・AI利用者）の一つで、AIシステムを開発する…
- AI利用者AI利用者とは、AI事業者ガイドラインの3つの主体の一つで、事業活動においてAIシステムやAIサービスを利用する事業者のことです。