生成AIパスポート試験の合格を目指す方へ動画・章別テキスト・問題演習・用語集がひとつになった無料の合格アプリ

無料で合格アプリを使う →

生成AIパスポート 用語集生成AIの仕組みと生成モデル

Seq2Seqとはしーくとぅーしーく

英語Sequence to Sequence分野生成AIの仕組みと生成モデル出題重要度★☆☆公式テキスト公式テキスト 第2章「Transformer登場以後の派生モデルの系譜」

Seq2Seqの意味

Seq2Seqとは、Sequence to Sequenceの略で、ある系列(シーケンス)データを入力として受け取り、別の系列データに変換して出力するモデルです。たとえば日本語の文を英語の文に翻訳するような処理に使われます。公式テキストの系譜図では2014年に位置づけられたRNNベースのモデルとして、Transformerの前身にあたる存在として示されています。

生成AIパスポート試験の対策なら → 無料の合格アプリ

詳しい解説

Seq2Seqは、入力文を読み込んで数値表現にまとめるエンコーダと、その表現から出力文を生成するデコーダの2つで構成されます。どちらもRNN(またはその改良版のLSTM)を使って、単語を1つずつ順番に処理していました。

この「エンコーダとデコーダで系列を別の系列に変換する」という考え方は、2017年のTransformerにも受け継がれています。ただしTransformerは、RNNの代わりにAttentionの仕組みを使い、並列処理を可能にした点で大きく進化しました。公式テキストの系譜図では、Seq2Seq(2014年)→Transformer(2017年)→GPT・BERTという流れで示されています。

試験のポイント

  • 系譜図では2014年、RNNベースのモデルとして登場
  • 流れ:Seq2Seq(2014年)→Transformer(2017年)→GPT-1・BERT(2018年)
  • 系列を別の系列に変換するモデル(例:機械翻訳)
  • Transformerと違い、RNNで順番に処理する

Seq2Seqの確認問題(○×)

公式テキストの系譜図では、Seq2SeqはTransformerの登場後に生まれた派生モデルとして位置づけられている。

答えと解説を見る

答え:×

Seq2Seqは2014年のRNNベースのモデルで、2017年のTransformerより前に位置づけられています。

Seq2Seqとあわせて覚えたい関連用語

「生成AIの仕組みと生成モデル」のほかの用語

生成AIの仕組みと生成モデルの用語一覧(23語)を見る →

生成AIパスポート 用語集(全407語)のトップに戻る

↑