生成AIパスポート 用語集ディープラーニングとニューラルネットワーク
勾配爆発問題とはこうばいばくはつもんだい
勾配爆発問題の意味
勾配爆発問題とは、ニューラルネットワークの学習において、重みを修正するための値（勾配）が層や時点をさかのぼるうちに極端に大きく膨らんでしまい、重みが急激に変化して学習が不安定になる問題のことです。公式テキストでは、勾配消失問題と並んで、RNNで長いシーケンスを扱う際に生じやすい課題として紹介されています。
生成AIパスポート試験の対策なら → 無料の合格アプリ
詳しい解説
試験のポイント
- 勾配爆発＝「学習が不安定になる」問題
- 勾配消失＝「学習が進まなくなる」問題と対比で覚える
- RNNで長いシーケンスを扱う際の課題
勾配爆発問題の確認問題（○×）
勾配爆発問題は、RNNで長いシーケンスを扱う際に生じやすく、学習が不安定になってしまう問題である。
答えと解説を見る
答え：○
勾配が極端に大きくなって重みが急激に変化するため、学習が安定しなくなります。
勾配爆発問題とあわせて覚えたい関連用語
- 勾配消失問題勾配消失問題とは、ニューラルネットワークの学習において、重みを修正するための手がかりとなる値（勾配）が、層をさかのぼって伝わるうちにどんどん…
- RNNRNNとは、Recurrent Neural Networkの略で、過去の情報を内部に保持しながら新しい入力を順番に処理していくニューラルネ…
- LSTMLSTMとは、Long Short-Term Memory（長・短期記憶）の略で、RNNを改良し、時系列データや文章などのシーケンスデータで…
- 誤差誤差とは、ニューラルネットワークなどのモデルが出力した答えと、本来の正解データとの間にある差のことです。
- シーケンスデータシーケンスデータとは、文章・音声・動画・音楽のように、要素が順番に連なっていて、その並び順に意味があるデータの集まりのことです。