生成AIパスポート 用語集機械学習
方策と価値とはほうさくとかち
英語Policy / Value分野機械学習出題重要度★★☆公式テキスト公式テキスト 第1章「機械学習の手法」
解説:村井宗明(GUGA協議員・元文部科学大臣政務官・AIエンジニア)|公開 |更新
方策と価値の意味
方策と価値とは、強化学習で報酬を最大化するために使われる2つの基本概念です。価値は、ある状態やある行動がどれだけ良いか(将来どれだけ報酬が見込めるか)を示す指標で、方策は、それぞれの状態でどの行動を取るべきかを定めたルールを指します。両者を組み合わせて最適な行動を学びます。
生成AIパスポート試験の対策なら → 無料の合格アプリ
詳しい解説
迷路を進むロボットで考えてみましょう。「ゴールに近いこのマスにいるのは良い状態だ」「この分かれ道で右に進むのは良い選択だ」という良さの見積もりが価値です。一方、「この分かれ道では右に進む」という行動の決め方そのものが方策です。
学習の初期には価値の見積もりも方策もでたらめですが、試行錯誤で報酬を受け取るたびに価値の見積もりが正確になり、それに合わせて方策も改善されます。こうしてコンピュータは、報酬の合計を最大にする行動の取り方に近づいていきます。
試験のポイント
- 価値=状態や行動の「良さ」を示す指標
- 方策=各状態で「どう行動すべきか」を定めるルール
- 価値と方策の説明を入れ替えたひっかけ選択肢に注意
- いずれも報酬の最大化を目指すための概念
方策と価値の確認問題(○×)
強化学習における「方策」とは、ある状態や行動がどれだけ良いかを数値で示した指標のことである。
答えと解説を見る
答え:×
それは「価値」の説明です。方策は、各状態でどの行動を取るべきかを定めるルールです。
生成AIパスポート 用語集(全407語)のトップに戻る