【プロンプトインジェクション】AIエージェントが読んだ文章に指示を紛れ込ませる攻撃と、防ぎきれない理由

Microsoftは10/19（米国時間）、企業が使うAIエージェントを見張る機能「Guardian Agents」などを発表しました。TechCrunchによれば、セキュリティ事業の責任者Hayete Gallot氏は「残念ながら、フロンティアモデルは出どころを問わず信頼できない」と書いています。その1週間前の10/13、GoogleはGemini 4 Argonについて、外部の文章に紛れ込ませた指示による攻撃の成功率を0.7%まで下げたと発表しました。

AIがメールを読み、ウェブを調べ、道具を使って作業するようになると、AIが読む文章そのものが攻撃の入口になります。この記事では、その代表であるプロンプトインジェクションの仕組みと、なぜ完全には防げないのかを整理します。