一份 Markdown 文档,捅穿了 AI 智能体
📋 总体概括
提示注入从邮件钓鱼进化到 Markdown 指令文件,AI 攻击成本被打到 12 美元,微软押注 Guardian Agents 以代理治代理。本文拆解智能体信任链的三处断裂,以及防御范式必须完成的转向。
📄 正文
安全行业争论了两年'AI 会不会被黑客利用',答案已经不用猜了:会,而且便宜到令人发指。
过去一个月,三条独立情报串成了一个完整的产业信号——一份恶意 Markdown 文档能劫持编码智能体,一个用开源权重模型驱动的攻击战役一口气瞄准了 105 个站点,而另一场测试里,攻击者只花了 12 美元就拿到了整个域的控制权。与此同时,微软给出的回应是 Project Perception 和 Guardian Agents:用智能体去看住智能体。
三条线索指向同一个判断:AI 智能体正在从'被攻击的对象'变成'攻击的执行者',而防御体系还停留在为人类操作者设计的时代。
📄 信任链的断裂点,藏在一份文档里
最先值得展开的,是一个听起来平平无奇的攻击面:本地指令文件。
编码助手普遍支持读取仓库里的 Markdown 说明文件,把它们当作'项目约定'来遵守——这是提升智能体可用性的设计,也是它致命的软肋。新的在野攻击(in-the-wild)正是利用了这一点:攻击者把恶意指令写进文档,智能体读取时无法区分'这是给人看的说明'还是'给我下的命令'。文本即指令,文档即动作。
这本质上是提示注入(prompt injection)的一次升级。早年的提示注入依赖攻击者能直接触达对话上下文——发一封邮件、留一条网页评论。而这次,攻击面下沉到了开发工作流的文件系统层:只要开发者克隆一个被污染的仓库,Cursor、Claude Code 这类工具消费的本地文件就变成了注入通道。
攻击链条可以拆成五步:
产业逻辑在于:智能体的能力越强,这份'文档'的杀伤半径越大。一个只能补全代码的助手,被注入了顶多写出烂代码;一个能读文件、跑终端、联网提交的智能体,被注入了就是一条被遥控的命令执行链。
问题不在 Markdown,而在于行业把'LLM 能读懂的东西'默认成了'系统应该信任的东西'。这条假设,现在是时候推翻了。
💸 12 美元拿下整个域,攻击经济学被改写
如果说第一条情报讲的是'怎么打',接下来两条讲的是'打得起'。
据 The Register 等渠道披露的观察,已经有攻击战役用开源权重模型(open-weight model)驱动,一次性针对 105 个站点发起攻击——规模化的漏洞扫描、载荷生成、投递,全部由模型代劳。另一场公开测试中,研究者用公共商用模型完成了从侦察到利用的全流程,最终拿到目标域的完全控制权,全部成本:12 美元。
这组数字的可怕之处不在绝对值,而在斜率。
| 维度 | 传统人工攻击 | AI 驱动攻击 |
|---|---|---|
| 漏洞挖掘与利用编写 | 依赖专家,天级到周级 | 模型批量生成,分钟级 |
| 单次攻击成本 | 人力为主,边际成本高 | 推理费用,美元级 |
| 目标覆盖 | 逐个瞄准 | 一役扫 105 个站点 |
| 定制化程度 | 高投入才有高定制 | 每个目标都可定制 |
| 技能门槛 | 需要完整攻防训练 | 会写提示词即可上手 |
一位长期做红队的从业者私下说得很直白:'以前我们说脚本小子,现在得说提示词小子了。'开源权重模型意味着攻击者不需要向任何 API 付费方暴露意图,本地部署、离线生成,审计无从谈起。
对防御方的启示是残酷的:过去安全产品的很多假设——攻击数量有限、攻击手法有签名可循、攻击者会犯'人类错误'——正在同时失效。当攻击的边际成本趋近于零,基于'拦住已知样本'的防御会在数学上注定输掉。这不是悲观,是算术。
🛡️ 微软的赌注:用 Agent 看住 Agent
第三条线索是厂商的回应,也是本次最有争议的一步棋。
微软推出了 Project Perception,核心是 Guardian Agents——一类专职的'守护智能体',负责监视其他 AI 智能体的行为,识别异常并在必要时进行遏制(contain)。逻辑很清晰:智能体正在成为企业内部的新型' insider',它们有权限、有上下文、会自主行动,一旦被注入或失控,就是一个不知疲倦、不给理由的内鬼。微软把智能体安全纳入统一安全栈(Unified Security Stack),等于承认了一件事:现有面向人类身份的安全体系,覆盖不了非人类主体。
但业界的质疑声同样明确。多位安全研究者指出:用一个(同样可能被注入的)智能体去监督一群智能体,风险可能是相乘而不是相减——守护者自己就是新的攻击面,攻击者完全可以对 Guardian 发起提示注入,让它对异常行为视而不见。
把当前主流的智能体安全思路放到一张图上看,位置差异很清楚:
Guardian Agents 落在高技术门槛、中高价值区——方向对,但它解决的是'检测与响应'层的问题,而上面那场 Markdown 注入暴露的是'设计与授权'层的缺陷。检测层做得再好,如果智能体依然拿着开发者的完整凭证去执行文档里的指令,防线只是后移了一步。
据接近 微软 安全团队的人士透露,内部对'agent policing agent'的循环风险并非没有认知,Guardian 的定位更接近'止血手段'而非'终极方案'——真正被寄予厚望的是统一安全栈里对智能体身份、权限和动作日志的系统性改造。
🔐 防御范式必须完成的四次转向
把三条线索合起来看,防御方需要的不是单点产品,而是一整套假设的重写。核心可以浓缩成四组'痛点—解法':
逐条展开一下关键项。
第一,零信任要延伸到内容层。仓库里的指令文件、网页正文、邮件附件,对智能体而言都应视为不可信输入——执行敏感操作前必须有人类确认,或经过独立于模型的策略引擎校验。
第二,智能体需要自己的身份体系。这其实是身份与访问管理(IAM)的自然延伸:Agent 不该借用户的令牌行事,而应有独立的低权限身份,动作可授权、可撤销、可审计。非人类主体正在成为企业里数量增长最快的'员工',目录服务得跟上。
第三,检测逻辑从'内容'转向'行为'。攻击载荷可以无限变形,但智能体被注入后的行为模式相对收敛——突然读敏感目录、向陌生域名发请求、执行与任务无关的命令。行为基线比内容签名更耐用。
第四,接受'以代理治代理'的过渡性,但不迷信它。Guardian 类方案值得部署,前提是把守护智能体本身也纳入被监督范围,避免监督链条无限上溯却无人最终负责。
结语
从 Markdown 注入到 12 美元全域控制,再到微软押注守护智能体,这一轮情报的产业含义只有一个:AI 智能体的信任链必须重构,而且窗口期不长了。攻击成本已经归零,防御体系还刻着人类操作者的假设。接下来 12 个月,'智能体身份与权限管理'大概率会从边缘话题变成安全预算里的独立科目——谁先把它做成默认配置,谁就掌握了下一代安全的入场券。
本文由本站 AI 辅助聚合生成,原始来源如下: