AI が読み込む文章に別の指示を紛れ込ませ、本来の目的から外れた行動を取らせる攻撃です。利用者が直接入力する型と、Web ページやメールなど AI が読む資料に仕込む型があります。
AI が読み込む文章に別の指示を紛れ込ませ、本来の目的から外れた行動を取らせる攻撃です。利用者が直接入力する型と、Web ページやメールなど AI が読む資料に仕込む型があります。
AI エージェントがメールやブラウザ、社内資料を読み込んで作業する場面で危険が増します。Deep Research のように Web を広く読ませるツールほど警戒が必要です。
左下に「直接入力」、右上に「Web ページ/メールに仕込まれた指示」の 2 経路から矢印が中央の AI エージェントへ伸び、その手前に盾のアイコン(権限確認)が侵入を食い止める構図。
擬人化ポンチ絵 · 後日差し込み外部の文章に紛れた指示で AI を乗っ取る攻撃を指します。
存在を知るだけで、任せる作業の権限設計に注意が向きます。
確実に防ぐ方法はまだ確立されていません。
Web 閲覧をエージェントに任せる場面で意識しておきます。
直接型と間接型、2 つの経路があると知ることです。
OWASP Top 10, Permission, Tool Use
攻撃の再現につながる具体的な文面・手口は本文にもポンチ絵メモにも書かず、読者が「何が起きるか」「どう備えるか」を理解できる範囲に留めた。