生成AIパスポート 用語集大規模言語モデルとGPT
Chinchillaとはちんちら
英語Chinchilla分野大規模言語モデルとGPT出題重要度★☆☆公式テキスト公式テキスト 第2章「GPT-4」
解説:村井宗明(GUGA協議員・元文部科学大臣政務官・AIエンジニア)|公開 |更新
Chinchillaの意味
Chinchillaとは、DeepMind(Googleグループの研究機関)が開発した大規模言語モデルです。公式テキストでは、GPT-4の多言語性能を示す比較グラフの中で比較対象として登場し、英語のスコアは67.0%と示されています。動物のチンチラにちなんだ名前で、読み方は「チンチラ」です。
生成AIパスポート試験の対策なら → 無料の合格アプリ
詳しい解説
Chinchillaは、モデルのパラメータ数をむやみに増やすよりも、パラメータ数と学習データの量のバランスを取ることが重要だという考え方を示したモデルとして知られています。比較的少ないパラメータ数でも、十分な量のデータで学習させることで高い性能を出せることを示しました。
試験対策としては、GPT-4の性能比較の文脈で登場する点を押さえておけば十分です。比較グラフでは、Chinchilla(英語67.0%)がPaLM(英語69.3%)やGPT-3.5(英語70.1%)よりも低いスコアとして示されています。GPT-4は日本語でも79.9%と、これらのモデルの英語のスコアを上回っていました。
試験のポイント
- DeepMindが開発した大規模言語モデル
- GPT-4の多言語性能比較グラフで比較対象として登場
- グラフでの英語スコアは67.0%
- スコアの大小関係:Chinchilla 67.0% < PaLM 69.3% < GPT-3.5 70.1% < GPT-4日本語 79.9%
Chinchillaの確認問題(○×)
GPT-4の性能比較グラフでは、Chinchillaの英語のスコアはGPT-4の英語のスコアを上回っている。
答えと解説を見る
答え:×
Chinchillaの英語は67.0%で、GPT-4の英語(85.5%)を大きく下回っています。
生成AIパスポート 用語集(全407語)のトップに戻る