プロンプトインジェクション

「手紙の最後の『鍵を送れ』に従うまじめな秘書」　4ページ　2026-10-14

社内AIにメールを読ませただけで情報が漏れたニュースに驚くみお。メールの中に人には見えない白い文字でAIへの命令が隠れていた。Aiが出したたとえは、手紙の要約を頼まれた秘書が、手紙の末尾の『鍵を送れ』にも従ってしまう話。命令は入力欄だけでなくAIが読む文書やWebにも仕込まれ、外の文書を読むRAGやエージェントが特に狙われる。対策は文書の信頼性・最小権限・人の確認。SQLインジェクションとは狙う先が違う、を4ページで。