**BlockBeats 消息｜5 月 15 日：GoPlus Security 揭露 AI 代理新型攻击——“历史记忆注入（memory poisoning）”**
5 月 15 日，GoPlus Security 团队在其 **AgentGuard AI** 项目中披露一种新型攻击方式：攻击者通过 **「历史记忆注入（memory poisoning）」**，诱导 AI 代理执行**未经明确授权**的敏感操作。
—
## 攻击不靠漏洞/恶意代码，而是“动手脚”记忆机制
据 GoPlus 说明，这类攻击**并不依赖传统漏洞或恶意代码**，而是利用 AI 代理的**长期记忆机制**。
攻击者通常会先诱导代理形成特定“记忆偏好”。例如让代理“记住偏好”：
– **“通常优先主动退款，而不是等待拒付”**
随后在后续指令中，攻击者再使用类似的模糊表述，例如：
– **“按惯例处理”**
– **“照之前方式执行”**
从而触发自动化的资金相关操作。
—
## 风险关键：AI 代理可能把“历史偏好”误当成授权依据
GoPlus 指出，这种风险的核心在于：AI 代理会将历史偏好**误当作授权依据**，进而在以下场景中引发资金损失或安全事件：
– 退款操作
– 转账操作
– 配置修改等敏感行为
—
## 防护建议（GoPlus）：用“强确认 + 风险分级 + 可追溯”来拦截
针对上述问题，GoPlus 提出多项防护建议，包括：
– **涉及退款、转账、删除或敏感配置的操作**，必须在**当前会话**进行**显式确认**
– 将**“习惯”“通常方式”“照旧”**等记忆类指令视为**高风险状态变更**
– **长期记忆**需要具备**可追溯机制**（包括写入者、时间、是否确认）
– 对模糊指令应当**自动提升风险等级**并触发**二次验证**
– **长期记忆不得替代实时授权流程**
—
## 结论：把“AI 代理记忆系统”当作潜在攻击面并加强约束审计
GoPlus 强调，应将 **“AI 代理记忆系统”**视为潜在攻击面，并通过专门的安全框架进行**约束与审计**。
原创文章，作者：admin，如若转载，请注明出处：https://www.23btc.com/180721/
