OceanAltOceanAlt

提示注入

Prompt injection

把惡意指令藏進 Agent 會讀到的內容裡(網頁、郵件、工具返回值),誘導它做出違背用戶本意的行為。在支付場景裡最典型的後果是改掉收款地址或金額。我們在攻防實驗室裡對自己的實現做過實測:被注入的 Agent 確實會發出改道後的支付請求,但請求在結算前被授權意圖比對攔下——這說明信任層必須活在 Agent 之外。

也叫提示詞注入 · 間接提示注入

相關術語

  • 授權(Mandate)一個 Agent 被允許花錢的邊界,通常包含單筆上限、單日累計上限、收款白名單和用途。它必須由 Agent 之外的系統強
  • KYA(Know Your Agent)對一個發起支付的 AI Agent 做身份歸因:它是誰、背後的責任主體是誰、它的授權範圍是什麼、能不能被吊銷。與 KYC

這條定義可以直接引用;固定地址:https://oceanalt.com/zh/glossary/prompt-injection

← 回術語庫