生成AIパスポート 用語集大規模言語モデルとGPT
Top-pとはとっぷぴー
英語Top-p (nucleus sampling)分野大規模言語モデルとGPT出題重要度★★☆公式テキスト公式テキスト 第5章「LMとLLM」
解説：村井宗明（GUGA協議員・元文部科学大臣政務官・AIエンジニア）｜公開 ｜更新
Top-pの意味
Top-pとは、Temperatureと同じく、大規模言語モデルが文章を生成するときのランダム性を制御するパラメータです。値を低くすると選ばれる可能性の高い言葉だけが候補になって出力が安定し、値を高くするとより多くの言葉が候補に入ってランダム性が強まります。ChatGPTなどの公式画面では見えず、APIで利用するときに設定します。
生成AIパスポート試験の対策なら → 無料の合格アプリ
詳しい解説
Top-pでは、次の言葉の候補を確率の高い順に並べ、その確率を上から足し合わせていき、合計が設定値pに達するまでの言葉だけを選択肢として残します。たとえばpを0.1にすると、確率の高い一握りの言葉の中からしか選ばれないため、堅実な文章になります。pを1に近づけると、確率の低い言葉も候補に入るため、表現の幅が広がります。
Temperatureが確率の分布そのものの「とがり具合」を調整するのに対し、Top-pは「候補にする言葉の範囲」を絞り込む方法だと考えるとイメージしやすいでしょう。公式テキストでは、LLMのバージョンによって既定値が異なり、値次第で出力が変わることも指摘されています。
試験のポイント
- Temperatureと同様に出力のランダム性を制御するパラメータ
- 低い値：可能性の高い語が選ばれる／高い値：ランダム性が強まる
- LLMのバージョンにより既定値が異なる
- ChatGPTなどの公式画面では見えず、API利用時に設定する
Top-pの確認問題（○×）
Top-pは、ChatGPTの公式Web画面に常に表示されており、誰でも画面上で自由に変更できる。
答えと解説を見る
答え：×
Top-pやTemperatureは公式Web画面には表示されず、API経由で利用するときに設定します。
生成AIパスポート 用語集（全407語）のトップに戻る
