生成AIパスポート 用語集大規模言語モデルとGPT
ハルシネーションとははるしねーしょん
ハルシネーションの意味
ハルシネーションとは、生成AIが事実と異なる内容や、文脈と関係のない内容を、あたかも本当のことのようにもっともらしく出力してしまう現象です。英語で「幻覚」を意味し、「AIの幻覚」や「もっともらしいウソ」とも表現されます。GPTシリーズでは常に課題となってきた問題で、GPT-4でも発生します。
生成AIパスポート試験の対策なら → 無料の合格アプリ
詳しい解説
大規模言語モデルは、学習したテキストのパターンから「次に来そうな言葉」を予測して文章を作っています。事実かどうかを確かめながら書いているわけではないため、存在しない論文や架空の統計、誤った人物情報などを、自信ありげに出力してしまうことがあります。学習データに含まれない事柄について尋ねたときにも起こりやすくなります。
明らかな誤りであればすぐに気づけますが、本当らしく見えて真偽を見分けにくいものも多いのが厄介な点です。公式テキストでも、生成AIの出力は人間が確認することが不可欠だとされています。また、ハルシネーションによる誤情報が広まると、社会の混乱につながるおそれもあります。重要な情報は必ず信頼できる情報源で裏付けを取りましょう。
試験のポイント
ハルシネーションの確認問題（○×）
ハルシネーションとは、生成AIが事実と異なる内容を、もっともらしく本当のことのように出力してしまう現象である。
答えと解説を見る
答え：○
真偽を見分けにくい場合も多いため、生成AIの出力は人間が確認することが不可欠です。
ハルシネーションとあわせて覚えたい関連用語
- 大規模言語モデル大規模言語モデルとは、膨大な量のテキストデータで訓練された、非常に規模の大きい言語モデルのことで、英語の頭文字からLLMと呼ばれます。
- GPT-4GPT-4とは、2023年3月にOpenAIがリリースした大規模言語モデルです。
- ナレッジカットオフナレッジカットオフとは、生成AIのモデルが学習したデータの期限、つまり「いつまでの情報を知っているか」の区切りのことです。
- 偽情報等への対策偽情報等への対策とは、AI事業者ガイドラインの共通の指針「人間中心」に含まれる内容の一つです。
- テキスト生成AIの不得意なことテキスト生成AIの不得意なこととは、学習方法や設計の仕組みに由来して、生成AIがうまくこなせない作業のことです。