生成AIパスポート 用語集大規模言語モデルとGPT
ファインチューニングとはふぁいんちゅーにんぐ
ファインチューニングの意味
ファインチューニングとは、事前学習を終えたモデルに、特定の用途に合わせたデータを追加で学習させ、性能を微調整することです。タスク固有のデータや、その分野に合った語彙・表現を学ばせることで、目的に特化したモデルを作れます。ChatGPTは、GPT-3.5を対話向けにファインチューニングしたものとして知られています。
生成AIパスポート試験の対策なら → 無料の合格アプリ
詳しい解説
試験のポイント
ファインチューニングの確認問題（○×）
ChatGPTは、GPT-3.5を対話向けにファインチューニングして作られた。
答えと解説を見る
答え：○
事前学習済みのGPT-3.5を、対話に適した形に微調整したものがChatGPTです。
ファインチューニングとあわせて覚えたい関連用語
- 事前学習事前学習とは、大規模言語モデルを作る最初の段階で、膨大な量のテキストを学習させて自然言語に関する幅広い知識を身につけさせることです。
- 転移学習転移学習とは、ある問題を解くために学習させたモデルの知識（学習済みの重みなど）を、別の関連する問題に当てはめて活用する手法です。
- ハイパーパラメータハイパーパラメータとは、機械学習のモデルが学習を始める前に、人が手動で設定・調整する値のことです。
- モデルの評価モデルの評価とは、学習や調整を終えたAIモデルが、どの程度正しく役に立つ結果を出せるかを確かめる工程のことです。
- ChatGPTChatGPTとは、OpenAIが開発・提供している対話型の生成AIサービスです。
- 大規模言語モデル大規模言語モデルとは、膨大な量のテキストデータで訓練された、非常に規模の大きい言語モデルのことで、英語の頭文字からLLMと呼ばれます。