生成AIパスポート 用語集プロンプトエンジニアリング
出力の質に関する4つの注意点とはしゅつりょくのしつにかんするよっつのちゅういてん
出力の質に関する4つの注意点の意味
出力の質に関する4つの注意点とは、生成AIを使うときに出力の質を左右する点として公式テキストが挙げる4項目です。①プロンプトを微調整するたびに出力の質が変わること、②使うモデルの能力と限界を理解すること、③具体的で一貫した答えが欲しいときは限定的な言葉を使うこと、④出力の倫理性は保証されていないこと、の4つを指します。
生成AIパスポート試験の対策なら → 無料の合格アプリ
詳しい解説
1つ目は、プロンプトのわずかな違いで出力が変わるという点です。言い回しを少し変えただけで答えの質が上がることも下がることもあるため、試行錯誤しながら調整することが大切です。
2つ目は、モデルごとの得意・不得意の把握です。たとえば知識のカットオフ(学習データの期限)以降の出来事には答えられないモデルもあり、計算や正確な文字数の指定が苦手なモデルもあります。
3つ目は、あいまいな言葉を避けることです。「いい感じに」ではなく「3つの観点で」「敬語で」など範囲を限定する言葉を使うと、具体的で毎回ぶれにくい答えになります。
4つ目は、倫理面の確認です。AIは訓練データの偏り(バイアス)を反映したり、差別的・不適切な表現を出したりすることがあり、その内容が倫理的に正しいという保証はありません。最終的には人間がチェックする必要があります。
試験のポイント
- 4項目(微調整で質が変わる/能力と限界の理解/限定的な言葉/倫理性は保証されない)をセットで覚える
- 「出力の倫理性はAIが保証している」という選択肢は誤り
- 具体性・一貫性を高めるには「限定的な言葉」を使う
- ハルシネーションやバイアスへの注意と結びつけて出題されやすい
出力の質に関する4つの注意点の確認問題(○×)
生成AIの出力は、倫理的に問題がないことがモデル側で保証されている。
答えと解説を見る
答え:×
出力の倫理性は保証されていないため、差別的な表現や偏りがないかを人間が確認する必要があります。
出力の質に関する4つの注意点とあわせて覚えたい関連用語
- プロンプトの4要素プロンプトの4要素とは、出力の質を高めるためにプロンプトの中で意識するとよい4つの構成要素で、Instruction(命令)、Context…
- ハルシネーションハルシネーションとは、生成AIが事実と異なる内容や、文脈と関係のない内容を、あたかも本当のことのようにもっともらしく出力してしまう現象です。
- バイアスバイアスとは、偏見や思い込み、考え方やデータの偏りのことです。生成AIは学習データをもとに出力を作るため、データやシステム設計に偏りがあると…
- プロンプトエンジニアリングプロンプトエンジニアリングとは、生成AIに与える指示や質問(プロンプト)を設計・改善して、目的に合った最適な出力を引き出すための技術や考え方…