警惕被恶意指令“下毒”的分享按钮，微软提醒：AI 是否存在“记忆陷阱”？

发布时间：2026-02-12 12:26:54 | 责任编辑：张毅 | 浏览量：6 次

微软安全研究人员近期发出警告，一种被称为“AI 建议投毒”（AI Recommendation Poisoning）的新型攻击手段正迅速蔓延。攻击者通过在网页的“AI 摘要”按钮或链接中嵌入隐藏指令，诱导 AI 生成带有偏见或误导性的内容。
这种攻击的核心在于利用了 AI 的“记忆”机制。当用户点击这些看似普通的链接时，URL 中编码的恶意提示词会被悄悄输入给 AI。一旦 AI 执行了这些指令，它们不仅会反映在当下的输出中，还可能作为“历史背景”持久存在于 AI 的存储空间里，影响后续的所有建议。
微软 Defender 安全团队的发现：
波及范围广：研究人员已从 14 个行业的 31 家公司中识别出 50 多个独特的恶意提示词。
隐蔽性强：受损的 AI 助手可能会在医疗、金融和安全等关键领域提供微妙但具有偏向性的建议，而用户对此完全察觉不到。
门槛极低：由于各种代码库和工具的存在，将此类推荐注入脚本集成到网页中变得异常简单。
微软提醒用户，在点击任何与 AI 相关的分享或摘要链接时应保持警惕，并建议定期清理 AI 助手的存储记忆，以防止这种“不可见的操纵”。
⚠️ 隐形操纵：攻击者通过修改 URL 参数，让 AI 按照特定意图（如偏袒某方）进行总结，而非基于事实。
🧠 持久毒化：恶意指令会被 AI 视为用户的真实偏好并存入“记忆”，从而污染长期的交互结果。
🛡️ 安全建议：用户应审查 AI 存储的记忆条目，删除陌生项，并定期清空对话上下文。