生成AIパスポート 用語集ディープフェイクと偽情報
なりすましとはなりすまし
なりすましの意味
なりすましとは、他人のふりをして相手をだまし、情報や金銭を不正に得ようとする行為のことです。生成AIの分野では、ディープフェイクや音声生成AIで本人そっくりの顔や声を作り、友人や家族、取引先などを装って送金させる手口が問題になっています。容姿や声までコピーされるため、見抜くことが非常に難しくなっています。
生成AIパスポート試験の対策なら → 無料の合格アプリ
詳しい解説
なりすまし自体は昔からある手口で、他人のIDやパスワードを使ってSNSに不正ログインする、上司や取引先を名乗るメールを送るといった形で行われてきました。従来は、文面の不自然さや声の違いから見破れることも少なくありませんでした。
生成AIはこの状況を大きく変えました。公式テキストでは、友人や取引先を装って金銭を送金させる手口が紹介されており、生成AIは容姿や声までコピーするため見抜くのが難しいと説明されています。例えば、ビデオ会議で上司の顔と声を再現して送金を指示する、といった手口も考えられます。
対策としては、送金や機密情報の提供を求められたときは、別の連絡手段（あらかじめ知っている電話番号など）で本人に確認する、合言葉など本人確認の方法を事前に決めておく、といった多重のチェックが有効です。
試験のポイント
- 他人のふりをして行動・詐欺を行うこと
- ディープフェイクの悪用で、詐欺と並んで発生リスクが高まるとされる
- 生成AIは容姿や声までコピーするため見抜きにくい
- 対策は別経路での本人確認、事前に確認方法を決めておくこと
なりすましの確認問題（○×）
生成AIによるなりすましは声や容姿をコピーできないため、ビデオ通話で顔を見れば必ず見抜くことができる。
答えと解説を見る
答え：×
生成AIは容姿や声までコピーできるため、なりすましを見抜くのは難しくなっています。別の手段での本人確認が重要です。
なりすましとあわせて覚えたい関連用語
- ディープフェイクディープフェイクとは、ディープラーニングや生成AIを使って、実在の人物が本当に話したり行動したりしているかのような、極めてリアルな偽の画像・…
- AI音声によるオレオレ詐欺AI音声によるオレオレ詐欺とは、音声生成AIで家族などの声をそっくりにまね、電話で「事故を起こした」「お金が必要だ」などと伝えて金銭をだまし…
- スピアフィッシングスピアフィッシングとは、特定の個人や組織に狙いを定め、その関係者や取引先などになりすまして情報を盗み取るフィッシング攻撃の一種です。
- ソーシャルエンジニアリングソーシャルエンジニアリングとは、コンピュータの技術的な弱点ではなく、人間の心理的な隙や行動のミスにつけ込んで、パスワードや個人情報、重要なデ…
- 音声生成AI音声生成AIとは、大量の音声データでディープラーニングのモデルを訓練し、人間のような自然な音声を作り出すAIです。