分野別生成AIパスポート 用語集
ディープフェイクと偽情報の用語14語｜生成AIパスポート試験対策
生成AIパスポート試験では、生成AIの悪用リスクとして、ディープフェイクの定義・特徴・注意点と、生成AIが詐欺や偽情報をどう変えたかが問われます。まずディープフェイク（深層偽造）の意味と「精度の高さ・カスタマイズ性・検出の難しさ」という特徴を押さえ、次に偽情報（ディスインフォメーション）とフェイクニュースの違い、最後にAI音声のオレオレ詐欺や高品質なコピーサイトなど「生成AIの技術的発展に潜む脅威」の具体例を順に覚えると整理しやすくなります。
ディープフェイクでぃーぷふぇいく★★★
ディープフェイクとは、ディープラーニングや生成AIを使って、実在の人物が本当に話したり行動したりしているかのような、極めてリアルな偽の画像・映像・音声を作る技術、またはその偽物のことです。日本語では「深層偽造」とも呼ばれ、人を意図的にだます目的で使われることが社会問題になっています。
フェイクニュースふぇいくにゅーす★★★
フェイクニュースとは、事実ではない内容を、あたかも本当のニュースや報道であるかのように伝える情報のことです。SNSなどを通じて急速に広まり、人々の判断や世論に影響を与えるおそれがあります。公式テキストでは、ディープフェイクと並んで、動画生成AIの悪用として最も懸念される用途の一つに挙げられています。
偽情報にせじょうほう★★★
偽情報とは、人をだましたり世論を誘導したりする目的で、意図的に作られて広められる虚偽の情報のことです。英語ではディスインフォメーション（Disinformation）と呼ばれます。公式テキストでは、ディープフェイクによって偽情報の拡散が進むことが社会問題として取り上げられています。
フェイク動画ふぇいくどうが★★☆
フェイク動画とは、実際には起きていない出来事や、本人が言っていない発言を、本物のように見せかけて作られた偽の動画です。動画生成AIの発達で、特定の団体を悪者に見せる映像や、起きていない災害を実際に起きたように見せる映像も簡単に作れるようになり、SNSでの拡散が大きな問題になっています。
岸田総理フェイク動画事件きしだそうりふぇいくどうがじけん★★☆
岸田総理フェイク動画事件とは、2023年11月に、当時の内閣総理大臣だった岸田文雄氏が実際には言っていない発言をしているかのような偽の動画が生成AIで作られ、SNS上で拡散して社会問題となった出来事です。公式テキストでは、生成AIによる肖像権侵害のおそれがあるケースとして紹介されています。
なりすましなりすまし★★★
なりすましとは、他人のふりをして相手をだまし、情報や金銭を不正に得ようとする行為のことです。生成AIの分野では、ディープフェイクや音声生成AIで本人そっくりの顔や声を作り、友人や家族、取引先などを装って送金させる手口が問題になっています。容姿や声までコピーされるため、見抜くことが非常に難しくなっています。
名誉毀損めいよきそん★★☆
名誉毀損とは、事実や虚偽の情報を不特定多数の人に示すことで、他人の社会的な評価を下げる行為のことです。日本では刑法上の犯罪となるほか、民法上の損害賠償の対象にもなります。公式テキストでは、本人の同意なく顔や声をディープフェイクに使うと、プライバシー侵害とともに名誉毀損の問題になりうると説明されています。
AI音声によるオレオレ詐欺えーあいおんせいによるおれおれさぎ★★★
AI音声によるオレオレ詐欺とは、音声生成AIで家族などの声をそっくりにまね、電話で「事故を起こした」「お金が必要だ」などと伝えて金銭をだまし取る詐欺です。声色やイントネーション、方言まで本人そっくりに再現できるため、電話の相手が本人ではないと気づくのは非常に難しいとされています。
音楽生成AIの悪用おんがくせいせいえーあいのあくよう★★☆
音楽生成AIの悪用とは、特定の著名アーティストの楽曲を音楽生成AIに学習させ、本人が作ったかのような曲を大量に生成し、本人の作品と偽って販売したりストリーミングで配信したりする行為です。アーティストの権利や信用を傷つけるだけでなく、音楽市場全体を混乱させるおそれがあると指摘されています。
詐欺の自動化さぎのじどうか★★☆
詐欺の自動化とは、生成AIなどを使って、詐欺メッセージの大量送信や、被害者からの返信への自動応答といった詐欺の作業を、人手をかけずに自動で行うことです。複数の相手とのやり取りを同時並行で進められるため、攻撃者はより大規模かつ効率的に詐欺を仕掛けられるようになります。
高品質なコピーサイトこうひんしつなこぴーさいと★★☆
高品質なコピーサイトとは、生成AIなどを使って作られた、企業や公的機関の公式サイトと見分けがつかないほど精巧な偽のWebサイトです。フィッシング詐欺やワンクリック詐欺で、IDやパスワード、クレジットカード情報などをだまし取るために悪用されます。生成AIの技術的発展に潜む脅威の一つとして紹介されています。
違和感のないフィッシングメールいわかんのないふぃっしんぐめーる★★☆
違和感のないフィッシングメールとは、テキスト生成AIを使って作られた、日本語の不自然さがなく本物の企業や機関からの連絡と見分けにくい詐欺メールです。従来は不自然な日本語で見抜けることが多かった海外発の詐欺メールも、生成AIによって自然な文面で作れるようになりました。
国際ロマンス詐欺こくさいろまんすさぎ★★☆
国際ロマンス詐欺とは、SNSやマッチングアプリなどで知り合った海外の人物が、恋人や結婚相手のようにふるまって信頼させ、さまざまな理由をつけて金銭を送らせる特殊詐欺です。生成AIを使えば、画像・音声・動画・テキストを組み合わせて実在しない美男美女を作り上げられるため、手口がより巧妙になると懸念されています。
生成AIの技術的発展に潜む脅威せいせいえーあいのぎじゅつてきはってんにひそむきょうい★★★
生成AIの技術的発展に潜む脅威とは、生成AIの進化によって詐欺や偽情報の作成が簡単かつ安価になり、犯罪の手口が巧妙化・大規模化している危険のことです。偽サイトや詐欺メールの準備が一瞬で済み、以前は高度な技術が必要だった声や顔のコピー、画像や動画の偽造も誰でもできるようになりました。