生成AIパスポート 用語集AI事業者ガイドラインとAI社会原則
偽情報等への対策とはにせじょうほうとうへのたいさく
偽情報等への対策の意味
偽情報等への対策とは、AI事業者ガイドラインの共通の指針「人間中心」に含まれる内容の一つです。生成AIはハルシネーションによって誤った情報をもっともらしく作り出すことがあり、偽情報・誤情報・偏った情報が社会を不安定にしたり混乱させたりするリスクがあるため、そのことを理解したうえでAIを使うよう求めています。
生成AIパスポート試験の対策なら → 無料の合格アプリ
詳しい解説
生成AIは、学習データにない事柄について尋ねられても、それらしい文章を作ってしまうことがあります。これがハルシネーションです。また、画像・音声・動画を生成する技術は、ディープフェイクのように本物と見分けにくい偽コンテンツを作るのにも悪用され得ます。
こうした情報が大量に拡散すると、選挙や災害時の判断、企業の信用などに深刻な影響を与えかねません。そのため、ガイドラインは事業者に対し、AIが生む偽情報・誤情報・偏向情報のリスクを認識したうえで開発・提供・利用することを求めています。
実務では、出力内容のファクトチェック、AI生成物であることの明示、重要な判断の前に人が確認する仕組みなどが対策になります。
試験のポイント
偽情報等への対策の確認問題（○×）
「偽情報等への対策」は、共通の指針10項目のうち「セキュリティ確保」に含まれる内容である。
答えと解説を見る
答え：×
偽情報等への対策は、共通の指針①「人間中心」に含まれる内容です。
偽情報等への対策とあわせて覚えたい関連用語
- 人間中心人間中心とは、AI事業者ガイドラインの共通の指針の1つ目で、ほかのすべての項目の土台となる考え方です。
- ハルシネーションハルシネーションとは、生成AIが事実と異なる内容や、文脈と関係のない内容を、あたかも本当のことのようにもっともらしく出力してしまう現象です。
- 偽情報偽情報とは、人をだましたり世論を誘導したりする目的で、意図的に作られて広められる虚偽の情報のことです。
- ディープフェイクディープフェイクとは、ディープラーニングや生成AIを使って、実在の人物が本当に話したり行動したりしているかのような、極めてリアルな偽の画像・…
- 共通の指針共通の指針とは、AI事業者ガイドラインのピラミッド構造の最下層（C）にあたり、AIシステム・サービスを開発・提供・利用するすべての主体が共通…