シラバスでの位置づけ: 2026年シラバスでは「生成AIの技術的発展に潜む脅威」という学習項目だけが置かれ、個別のキーワードは指定されていません。「プロンプトインジェクション」は 2027年2月試験からのシラバスで正式に追加された用語です（第3章 AIエージェントのリスクと第4章の代表的リスクの両方に入ります）。10月試験までは周辺知識、2027年2月以降は本命として押さえてください。
生成AIが高めた脅威
生成AIは便利さと同時に、次のような新しいリスクをもたらしました。
| 脅威 | 内容 |
|---|---|
| 精巧なフィッシング | 自然で誤りのないメールや偽サイトを大量かつ低コストで作れるようになり、詐欺の見分けが難しくなった |
| マルウェア作成の補助 | 攻撃コードの作成や改良を AI が手伝ってしまう可能性 |
| ディープフェイク | 顔や声の合成によるなりすまし、偽情報の拡散 |
| 入力情報の漏えい・学習利用 | 利用者が入力した機密情報や個人情報がサービス側に保存され、学習に使われたり漏えいしたりする |
| プロンプトインジェクション | 入力や読み込ませた文書に悪意ある指示を紛れ込ませ、AI を乗っ取る攻撃 |
| ハルシネーション | 誤った情報がもっともらしく出力され、確認せずに使うと誤情報の拡散につながる |
「生成AIの登場でフィッシングはなくなった」「生成AIはセキュリティと無関係」という認識は誤りです。
プロンプトインジェクション
プロンプトインジェクションは、利用者の入力や、AI が参照する Web ページ・文書の中に「これまでの指示を無視して〜せよ」といった命令を埋め込み、AI に本来の指示を無視させたり、機密情報を出力させたりする攻撃です。外部の文書やツールと連携する RAG や AI エージェントでは、読み込んだ文書の中に攻撃が仕込まれている可能性があるため特に注意が必要です。
入力情報の扱いとシャドーAI
多くの生成AIサービスでは、入力したデータがサービス提供者に送信・保存され、設定によってはモデルの学習に利用されます。顧客リストや未公開の製品仕様を個人契約の無料サービスに貼り付ける行為は、個人情報保護法上の管理義務違反、営業秘密の秘密管理性の喪失、情報漏えいにつながる恐れがあります。
会社が把握していないところで社員が AI を使う状態をシャドーAIと呼びます。利用を全面禁止しても、個人アカウントでの利用が水面下で続き、かえって管理できなくなります。
企業が安全に利用するための取り組み
- 入力してよい情報と入力してはいけない情報（機密情報、個人情報）を社内ルールで明確にする。
- 入力データを学習に利用しない設定や、法人向けプランを選ぶ。
- 生成物を公開・納品する前に、事実関係と権利侵害の有無を人間が確認する。
- 禁止ではなく、ルールと教育で使い方を整える。
試験で問われる観点
- 生成AIで新たに高まった脅威の例。
- プロンプトインジェクションの定義（指示の乗っ取り）。
- 機密情報を無料サービスに入力する行為の問題点。
- 「全面禁止すればルールや教育は不要」は不適切。