生成AIパスポート 用語集AI事業者ガイドラインとAI社会原則
セキュリティ確保とはせきゅりてぃかくほ
セキュリティ確保の意味
セキュリティ確保とは、AI事業者ガイドラインの共通の指針の5つ目です。外部からの不正な操作によって、AIの振る舞いが意図せず変えられたり、停止させられたりすることがないよう、AIシステム・サービスのセキュリティを確保することを求めています。AIも一種のプログラムであるため、脆弱性の排除と正常な稼働の維持が欠かせません。
生成AIパスポート試験の対策なら → 無料の合格アプリ
詳しい解説
公式テキストでは、セキュリティ確保の内容を次の2つに整理しています。
- AIシステム・サービスに影響するセキュリティ対策：プログラムとしての脆弱性をなくし、正常に動き続けるよう対策する
- 最新動向への留意：攻撃手法は日々新しく生まれるため、最新の情報を確認して対応する
AI特有の攻撃としては、巧妙な指示を入力してAIに本来禁止されている回答をさせる手口や、学習データに不正なデータを混ぜて挙動をゆがめる手口などが知られています。こうした攻撃を受けると、AIが誤った情報を出したり、情報を漏らしたりするおそれがあります。
試験のポイント
セキュリティ確保の確認問題（○×）
共通の指針の「セキュリティ確保」では、一度対策を施せば攻撃手法の最新動向を確認する必要はないとされている。
答えと解説を見る
答え：×
外部からの攻撃手法は日々新しく生まれるため、最新動向に留意して対応することが求められています。
セキュリティ確保とあわせて覚えたい関連用語
- 共通の指針共通の指針とは、AI事業者ガイドラインのピラミッド構造の最下層（C）にあたり、AIシステム・サービスを開発・提供・利用するすべての主体が共通…
- 安全性安全性とは、AI事業者ガイドラインの共通の指針の2つ目です。AIシステム・サービスの開発・提供・利用を通じて、ステークホルダーの生命・身体・…
- プライバシー保護プライバシー保護とは、AI事業者ガイドラインの共通の指針の4つ目です。AIシステム・サービスの開発・提供・利用において、その重要性に応じてプ…
- マルウェアマルウェアとは、コンピュータやその利用者に損害を与える目的で作られた悪意あるソフトウェアの総称です。
- AI開発者AI開発者とは、AI事業者ガイドラインで定められた事業活動の3つの主体（AI開発者・AI提供者・AI利用者）の一つで、AIシステムを開発する…