生成AIパスポート 用語集機械学習
ハイパーパラメータとははいぱーぱらめーた
ハイパーパラメータの意味
ハイパーパラメータとは、機械学習のモデルが学習を始める前に、人が手動で設定・調整する値のことです。学習の速さ、学習を繰り返す回数、モデルの層の数などが代表例で、これを調整することで、モデルの複雑さや学習の進み方をコントロールできます。データから自動的に決まるパラメータとは区別されます。
生成AIパスポート試験の対策なら → 無料の合格アプリ
詳しい解説
料理にたとえると、パラメータは「煮込みながら自然に決まる味」、ハイパーパラメータは「火加減や煮込み時間など、作る前に人が決める条件」です。条件の設定が悪いと、同じ材料でもおいしく仕上がりません。
公式テキストでは、ファインチューニングの3つのステップ(①モデルのトレーニング、②ハイパーパラメータの調整、③モデルの評価)の2番目として登場します。どの設定が最適かは、学習に使っていないデータでの成績を見比べながら決めるのが一般的です。また、生成AIの出力のランダムさを左右するTemperatureのように、利用時に設定する値もハイパーパラメータの一種として扱われることがあります。
試験のポイント
- 学習「前」に「人が」設定する値
- 学習で自動的に決まる「パラメータ」との違いが最頻出
- ファインチューニングの3ステップの2番目「ハイパーパラメータの調整」
- 調整によりモデルの複雑さや学習の進み具合を制御できる
ハイパーパラメータの確認問題(○×)
ハイパーパラメータは、モデルの学習前に人が設定・調整する値で、モデルの複雑さや学習の進み具合をコントロールできる。
答えと解説を見る
答え:○
学習によって自動的に決まるパラメータとは異なり、人が事前に設定する値です。
ハイパーパラメータとあわせて覚えたい関連用語
- パラメータパラメータとは、機械学習のモデルがデータから学習することで自動的に決まっていく内部の数値のことです。
- ファインチューニングファインチューニングとは、事前学習を終えたモデルに、特定の用途に合わせたデータを追加で学習させ、性能を微調整することです。
- モデルの評価モデルの評価とは、学習や調整を終えたAIモデルが、どの程度正しく役に立つ結果を出せるかを確かめる工程のことです。
- TemperatureTemperatureとは、大規模言語モデルが生成する文章のランダム性(ばらつき)の度合いを決めるパラメータで、日本語では「温度」と呼ばれま…
- 検証用データ検証用データとは、学習の途中でモデルの性能がどの程度かを確かめるために、学習に使うデータとは別に取り分けておくデータのことです。