生成AIパスポート 用語集大規模言語モデルとGPT
GPT-2とはじーぴーてぃーつー
英語GPT-2分野大規模言語モデルとGPT出題重要度★★☆公式テキスト公式テキスト 第2章「GPT-2」
解説:村井宗明(GUGA協議員・元文部科学大臣政務官・AIエンジニア)|公開 |更新
GPT-2の意味
GPT-2とは、2019年にOpenAIが公開した、GPT-1の改良版の言語モデルです。基本的な構造はGPT-1と同じですが、パラメータ数を15億個に増やし、約800万件のWebサイトのテキスト(GPT-1の約10倍のデータ)で学習しました。より人間らしく、文脈に合った文章を生成できるようになったことで注目を集めました。
生成AIパスポート試験の対策なら → 無料の合格アプリ
詳しい解説
GPT-2が話題になった理由の一つは、その公開方法です。生成される文章があまりに自然だったため、偽のニュース記事の大量生成などに悪用されることが懸念され、OpenAIは当初、一部のバージョンを非公開にしました。その後、約半年をかけてリスク管理の枠組みを整えてから、全バージョンとソースコードを公開しています。
この出来事は、生成AIの性能向上が社会的なリスクと隣り合わせであることを示した例としても知られています。技術の進歩と安全な公開の両立をどう図るかという課題は、その後の生成AI開発にも引き継がれています。
試験のポイント
- 2019年、OpenAIが公開。構造はGPT-1と同じ
- パラメータ数15億個、学習データは約800万件のWebサイトのテキスト(GPT-1の約10倍)
- 悪用への懸念から当初は一部を非公開とし、約半年後に全バージョンを公開
- 「GPT-2は公開と同時に全バージョンを公開した」は誤り
GPT-2の確認問題(○×)
GPT-2は、悪用への懸念から当初は一部のバージョンが非公開とされた。
答えと解説を見る
答え:○
リスク管理の枠組みを整えた約半年後に、全バージョンとソースコードが公開されました。
生成AIパスポート 用語集(全407語)のトップに戻る