生成AIパスポート 用語集個人情報保護とプライバシー
機密情報の入力リスクとはきみつじょうほうのにゅうりょくりすく
機密情報の入力リスクの意味
機密情報の入力リスクとは、社外秘の資料や未発表の企画、顧客情報などの機密情報を生成AIに入力すると、その内容がAIの学習に利用され、別の利用者への出力として再現されたり、外部に漏れたりするおそれがあることを指します。公式テキストでは、文章の校正などを依頼する前に、その文章が機密情報にあたらないかを確認するよう注意を促しています。
生成AIパスポート試験の対策なら → 無料の合格アプリ
詳しい解説
生成AIは大量のデータをもとに文章を生成しており、サービスによってはユーザーが入力した文章も、モデル改善のための学習データとして利用されることがあります。その場合、入力した情報の一部が、他の人への回答の中で再現されてしまう可能性があります。
実際に企業では、従業員が業務上のソースコードや会議内容を生成AIに入力したことが問題視され、社内での利用ルールを定める動きが広がりました。対策としては次のような方法があります。
- 入力前に、機密情報や個人情報が含まれていないかを確認する
- 固有名詞や数値を架空のものに置き換える
- 入力データを学習に使わない設定や法人向けプランを利用する
- 社内の生成AI利用ガイドラインに従う
試験のポイント
- 生成AIパスポート試験では「入力内容が学習に使われ、他の出力で再現される恐れ」が定番の論点です。
- 文章校正などの便利な用途でも、入力前に機密情報の有無を確認することが求められます。
- 個人情報だけでなく、企業の営業秘密や未公開情報も対象になる点を押さえましょう。
機密情報の入力リスクの確認問題（○×）
生成AIに入力した文章は、サービスによっては学習に利用され、他の利用者への出力で再現される可能性がある。
答えと解説を見る
答え：○
そのため、入力前に機密情報が含まれていないかを確認することが重要です。
機密情報の入力リスクとあわせて覚えたい関連用語
- 生成AI活用における個人情報の取り扱い生成AI活用における個人情報の取り扱いとは、生成AIに個人情報を含むプロンプトやデータを入力する際に、個人情報保護法のルールを守り、本人の権…
- データプライバシーデータプライバシーとは、個人に関するデータが、本人の意図しない形で収集・利用・共有されないように守られている状態、またはそのための考え方や取…
- 仮名化仮名化とは、データに含まれる実在の氏名や社名などを、架空の名前や記号に置き換えて、そのデータだけでは本人や実在の組織がわからないようにする処…
- データ漏洩データ漏洩とは、個人情報や企業の機密情報などが、本来アクセスできないはずの外部の第三者に流出してしまうことです。
- プロンプト生成上のリスクと注意点プロンプト生成上のリスクと注意点とは、生成AIにプロンプトを入力して文章を作らせる際に気をつけるべき事項のことです。