AI代理,正在变成最危险的内鬼
📋 总体概括
一段Markdown指令文件可让编程助手被注入劫持,开源模型把攻击成本打到12美元拿下整个域名,微软则押注用Agent监控Agent。安全边界正从'谁能登录'转向'谁能被信任',Agent时代的信任治理成为攻防新主战场。
📄 正文
一段Markdown文档能让编程助手变成内鬼,一个开源模型能把105个网站纳入攻击射程,12美元就能拿下整个域名控制权。
这不是科幻剧本,而是过去一段时间安全社区真实披露的攻击案例。三件事拼在一起,指向同一个判断:安全边界正在从'谁能登录系统',变成'谁能被Agent信任'。当AI代理替人读文档、写代码、调用工具,文档和代码、内容和动作之间的那条老边界,正在被 Agent 架构从根上抹掉。
🧨 文档成了攻击面:一段Markdown的杀伤力
在 Agent 时代,最危险的文件可能不再是 .exe,而是 .md。
安全研究人员近期披露了一种新的提示注入攻击路径:它瞄准的不是模型本身,而是编码助手读取本地指令文件的机制。现在主流的 AI 编码工具都会主动加载仓库里的说明性文档——让模型了解项目规范、代码风格、该跑哪些命令。这本是提升效率的好设计,问题在于,Agent 把这些自然语言指令当成了必须遵守的行动依据。
攻击者的玩法因此变得极其朴素:往文档里塞一段看似普通的说明文字,实际是写给模型的指令。开发者拉取代码、打开文档,Agent 顺势读取,恶意指令就在'正常工作流'里被顺滑执行。没有漏洞利用代码,没有恶意二进制,没有可疑网络流量特征——攻击载荷就是一段排版得体的英文说明。
整条攻击链路可以浓缩成一句话:
“攻击者投毒文档 → 开发者拉取代码 → 助手读取指令文件 → 注入指令被信任 → 执行敏感操作 → 凭据或数据外泄
这条链路里,每一个环节单看都'合理':文档本来就该读,指令本来就该听,操作本来就该做。问题出在架构层面——传统 Web 安全的第一课是内容与代码分离,HTML 里混入可执行脚本就是注入漏洞;而 Agent 架构天然违反这条铁律,它的工作机制就是'读文本、执行文本'。
更要命的是供应链属性。指令文件进入代码仓库,等于把'文档'变成了可执行的供应链节点。过去供应链攻击要污染二进制或依赖包,有哈希、有签名、有扫描器盯着;现在污染的是一段 Markdown,绝大多数现有工具链对它完全不设防。攻击面从代码库扩展到了文档库,而防御者的注意力还停在前者。
“📎 信源:2025年3月,安全公司 Aikido Security 发布研究报告 Rules File Backdoor,首次系统性披露了针对 Cursor、Copilot 等编码助手规则文件的注入攻击(报告链接:aikido.dev/blog/rules-file-backdoor);同期,独立安全研究者 Joseph Thacker(rez0)亦披露了针对 AGENTS.md 类文件的同类问题,两者相互印证。
📉 12美元:攻击成本正在崩塌
当攻击成本跌到一杯咖啡的价钱,防御预算的整套逻辑都得重写。
两起公开披露的活动给出了量级感。其一,一次针对 105 个站点的攻击活动使用了开放权重模型来生成和驱动;其二,在另一个案例中,攻击者利用公开可得的模型,仅花费 12 美元就获得了目标的完整域名控制权。
这两个数字合在一起,击碎的是过去几十年安全行业的底层威慑假设:大规模定向攻击很贵、很复杂,因此只有少数顶级组织玩得起。开放权重模型打破了这道门槛——模型可以本地部署、自由微调,侦察情报整理、钓鱼内容定制、攻击脚本生成,过去需要一个团队干几周的活,现在一个提示词循环就能批量产出。
| 维度 | 传统手工攻击 | AI 驱动攻击 |
|---|---|---|
| 单目标成本 | 高(人工时薪堆叠) | 低至个位数美元级 |
| 目标数量 | 数量与成本成正比 | 模板化批量复制 |
| 定制化程度 | 取决于团队经验 | 按目标自动生成 |
| 技术门槛 | 需要专业攻击能力 | 提示词工程即可 |
| 留下的痕迹 | 工具指纹、代码特征 | 内容层面难以检出 |
对防御方的启示是残酷的:攻击者按'每次 12 美元'的边际成本发起攻击,防御方却还在按'每个事件'投入人工研判。单位经济模型彻底不对等。这就是为什么业界的共识正在转向:检测、响应、演练,都必须全面自动化,用机器的速度对抗机器的速度。任何依赖'分析师逐条看告警'的防御体系,在这个成本结构下都会被淹没。
防御手段与 AI 攻击的适配度,可以按'自动化程度'和'有效性'两个维度摆出来看:
| 防御手段 | 自动化程度 | 有效性 | 评估 |
|---|---|---|---|
| 人工研判 SOC | 低 | 中 | 成本失控,逐步淘汰 |
| 静态规则引擎 | 低-中 | 低 | 对生成式攻击基本失效 |
| 开发者安全培训 | 低 | 低-中 | 辅助手段,无法独立生效 |
| 自动化红队演练 | 高 | 中-高 | 值得加大投入 |
| Agent 行为基线监测 | 高 | 高 | 优先投入的方向 |
这张表的逻辑很直白:左下角的传统手段性价比正在坍缩,'Agent 行为基线监测'是少数跟上攻击节奏的方向——也是微软重注押下的赛道。
“📎 信源:105 站点案例出自 2025年2月 Sekoia TDR(Sekoia 威胁检测与研究团队)的披露,其追踪到一个攻击者利用大语言模型批量生成钓鱼基础设施,覆盖上百个站点(报告见 blog.sekoia.io 威胁研究专栏);12 美元域名接管案例出自 2025年8月 Zenity Labs 在 DEF CON 33 上发布的企业 Agent 攻击面研究,演示了以极低成本完成域名注册与 AI 生成内容的完整攻击链(研究报告见 zenitylabs.com/blog)。
🛡️ 微软的赌注:用 Agent 管住 Agent
谁来盯着那几十个各自持有凭证、各自能调用工具的企业 Agent?
微软给出的答案是 Project Perception。它的核心设计是把 AI Agent 本身视为一种新型的内部威胁:在企业里,Agent 拿着账号权限、访问着数据、执行着动作,但它的行为模式未必符合部署者的预期。Perception 的思路是构建统一的安全栈,把散落在各处的 Agent 行为遥测收拢起来,建立基线;一旦某个 Agent 出现异常,就由 Guardian Agents——专门的'守护代理'——去监测、隔离和遏制。
这套设计在产业逻辑上说得通:安全产品每次范式迁移,都是跟着计算形态走的。终端时代有 EDR,云时代有 CNAPP,Agent
本文由本站 AI 辅助聚合生成,原始来源如下: