生成AIパスポート 用語集ディープラーニングとニューラルネットワーク
RNNとはあーるえぬえぬ
RNNの意味
RNNとは、Recurrent Neural Networkの略で、過去の情報を内部に保持しながら新しい入力を順番に処理していくニューラルネットワークです。公式テキストでは回帰型ニューラルネットワークや再帰型ニューラルネットワークと表記されています。前の時刻の隠れ層の出力を次の時刻の入力にも使うため、文章や音声などの時系列データの処理に向いています。
生成AIパスポート試験の対策なら → 無料の合格アプリ
詳しい解説
文章を読むとき、私たちは前に出てきた単語を覚えながら次の単語の意味を理解します。RNNはこれと同じように、ひとつ前の処理結果を「記憶」として次の処理に引き継ぎます。この過去の情報を記憶して現在の判断に使う層を「リカレント層」と呼び、リカレントには「反復する」「戻ってくる」という意味があります。
研究は1980年代に始まり、2000年代に広く使われるようになりました。公式テキストでは、会話の流れによって同じ質問にも異なる応答を返す人型ロボットの感情生成エンジンや、音楽生成AI、動画のフレーム間の一貫性を保つ用途などが紹介されています。一方、長いシーケンスを扱うと勾配消失問題や勾配爆発問題が起きやすいという弱点があり、その改良版としてLSTMが広く使われるようになりました。
試験のポイント
RNNの確認問題（○×）
RNNは、長いシーケンスデータを扱っても勾配消失問題や勾配爆発問題が起きにくいことが最大の長所である。
答えと解説を見る
答え：×
RNNは長いシーケンスを扱うと勾配消失・勾配爆発が起きやすく、その課題を改良したのがLSTMです。
RNNとあわせて覚えたい関連用語
- 時系列データ時系列データとは、株価や気温、音声、言語のように、時間の経過とともに変化していく値を、時間の順番に沿って記録したデータのことです。
- シーケンスデータシーケンスデータとは、文章・音声・動画・音楽のように、要素が順番に連なっていて、その並び順に意味があるデータの集まりのことです。
- LSTMLSTMとは、Long Short-Term Memory（長・短期記憶）の略で、RNNを改良し、時系列データや文章などのシーケンスデータで…
- 隠れ層隠れ層とは、ニューラルネットワークの入力層と出力層の間にある層のことで、中間層とも呼ばれます。
- 勾配消失問題勾配消失問題とは、ニューラルネットワークの学習において、重みを修正するための手がかりとなる値（勾配）が、層をさかのぼって伝わるうちにどんどん…
- CNNCNNとは、畳み込みニューラルネットワーク（Convolutional Neural Network）の略で、画像認識や画像処理に特に強いデ…