生成AIパスポート 用語集AIの歴史と重要人物
アシシュ・バスワニとはあししゅ・ばすわに
アシシュ・バスワニの意味
アシシュ・バスワニとは、Googleの研究者として、2017年の論文「Attention Is All You Need」を発表した著者の一人です。この論文で紹介されたTransformerは、CNNやRNNを使わずAttentionの仕組みだけで構成されたモデルで、BERTやGPTなど現在の大規模言語モデルの基盤となりました。生成AIの歴史を語るうえで欠かせない論文の筆頭著者です。
生成AIパスポート試験の対策なら → 無料の合格アプリ
詳しい解説
「Attention Is All You Need」は、バスワニを含むGoogleの研究者らによって書かれた論文です。それまでの自然言語処理では、文章を先頭から一語ずつ順番に処理するRNNやLSTMが主流でしたが、長い文章を扱うと精度が落ち、並列計算もしにくいという課題がありました。
Transformerは、文中のすべての単語同士の関係を一度に計算する自己注意機構（Self-Attention）を採用しました。データの順番に縛られず全体を同時に扱えるため並列処理が可能になり、学習時間が大幅に短縮されました。単語の順番は位置エンコーディングで補います。
この論文の登場をきっかけに、大量のデータで巨大なモデルを学習させる流れが加速し、2017年以降の大規模言語モデルの急速な発展につながりました。ChatGPTの「GPT」の「T」もTransformerを意味しています。
試験のポイント
アシシュ・バスワニの確認問題（○×）
アシシュ・バスワニらは、2017年の論文「Attention Is All You Need」でTransformerを発表した。
答えと解説を見る
答え：○
Googleの研究者であるバスワニらがこの論文でTransformerを紹介しました。
アシシュ・バスワニとあわせて覚えたい関連用語
- TransformerTransformerとは、2017年にGoogleの研究者アシシュ・バスワニらが論文「Attention Is All You Need」…
- Attention Is All You NeedAttention Is All You Needとは、2017年にGoogleの研究者アシシュ・バスワニらが発表した、Transforme…
- 自己注意機構自己注意機構とは、文の中の各単語が、同じ文の他のすべての単語とどれくらい関係しているかを同時に計算する仕組みで、英語ではSelf-Atten…
- GoogleGoogleとは、検索エンジンで知られるアメリカのIT企業で、生成AIの分野でも中心的な開発企業の一つです。
- 大規模言語モデル大規模言語モデルとは、膨大な量のテキストデータで訓練された、非常に規模の大きい言語モデルのことで、英語の頭文字からLLMと呼ばれます。