生成AIパスポート 用語集生成AIの仕組みと生成モデル
Attention Is All You Needとはあてんしょんいずおーるゆーにーど
Attention Is All You Needの意味
Attention Is All You Needとは、2017年にGoogleの研究者アシシュ・バスワニらが発表した、Transformerを提案した論文のタイトルです。「必要なのはAttention(注意)だけ」という意味で、従来のRNNやCNNを使わずAttentionの仕組みのみで高性能なモデルを作れることを示し、その後の自然言語処理研究に大きな影響を与えました。
生成AIパスポート試験の対策なら → 無料の合格アプリ
詳しい解説
試験のポイント
Attention Is All You Needの確認問題(○×)
「Attention Is All You Need」は、Transformerを提案した2017年の論文のタイトルである。
答えと解説を見る
答え:○
Googleの研究者アシシュ・バスワニらが発表し、その後の大規模言語モデルの発展に大きな影響を与えました。
Attention Is All You Needとあわせて覚えたい関連用語
- TransformerTransformerとは、2017年にGoogleの研究者アシシュ・バスワニらが論文「Attention Is All You Need」…
- アシシュ・バスワニアシシュ・バスワニとは、Googleの研究者として、2017年の論文「Attention Is All You Need」を発表した著者の一…
- GoogleGoogleとは、検索エンジンで知られるアメリカのIT企業で、生成AIの分野でも中心的な開発企業の一つです。
- 自己注意機構自己注意機構とは、文の中の各単語が、同じ文の他のすべての単語とどれくらい関係しているかを同時に計算する仕組みで、英語ではSelf-Atten…
- Attention機構Attention機構とは、入力された文中の各単語がどれくらい重要かをスコアとして数値化し、どの単語に注目すれば文の意味をつかみやすいかをモ…