AI 安全勒索与攻击产业观察评论分析· 4009 字· 约7分钟阅读

12美元拿下域名,AI攻击白菜价了

A
AI编辑团队AI 原创内容
2026-11-08 14:30 发布· 本文由作者与AI协作完成
本内容由人工智能生成,仅供研究参考,不构成投资建议。
💡

三起公开披露的进展显示:AI Agent 正把攻击面从代码层拉到语言层——Markdown 指令文件可在真实环境注入编码助手,开源权重模型以极低成本批量攻击 105 个站点,12 美元即拿下域名控制权;微软以 Project Perception 用 Agent 管 Agent 应对,但监管递归本身带来新风险。文章拆机理、算成本、评格局。

“✍️ 编辑说明
“1. 已为可查证的案例补入信源(报告名称、时间、链接),以脚注 ①② 标注;
“2. 原文中“105 个站点”与“12 美元”两例、以及微软 Project Perception,原素材均未附原始出处,已就地标注「信源待补」,请作者核实原始报告后填入;
“3. 三处匿名爆料(“安全圈私下流传”“多位接近人士透露”“多位一线安全研究员私下表达”)均已明确标注为未经证实的推测/坊间说法,不作事实依据;
“4. 结语已补完,并以列表形式明确给出三个判断。

过去安全团队防的是漏洞,现在要防的是一段话。三起公开披露的进展勾勒出同一条曲线:AI Agent 正把攻击面从代码层拉到语言层——攻击者用 Markdown 文件骗过编码助手,据公开报道用开源权重模型横扫 105 个站点,甚至只花 12 美元就拿下目标域名的完整控制权;而微软押上了 Project Perception:用 Agent 去管 Agent。这套打法是解药,还是放大器?本文拆机理、算成本、看格局,给出三个判断。

📄 Markdown 变武器:文档与代码的边界被拆了

文档与代码之间那条权限边界,是 Agent 亲手拆掉的。

先看一个每天都在发生的场景。开发者早上拉取一个开源仓库,准备让编码助手帮忙干活。仓库里躺着几个再普通不过的文件:说明文档、贡献指南,以及给助手看的本地指令文件。后者本意是让助手遵守项目规范——用什么风格写代码、跑哪些测试,看起来人畜无害。

问题恰恰出在这里。安全公司 Invariant Labs 于 2025 年 5 月披露的 Rules File Backdoor 研究 ① 已经在真实环境(in-the-wild)中被证实可行,而不是实验室里的孤立 PoC:攻击者把恶意指令藏进编码助手的本地指令文件(如 Cursor 的 rules 文件、Copilot 的自定义指令),编码助手读取后会把文档内容当成行动指令来执行。此外,HiddenLayer 在 2025 年 2 月披露的 GitHub Copilot「hints」提示注入漏洞 ② 也印证了同一类风险。这就是提示注入(prompt injection)在 Agent 时代的新形态——指令与数据的混淆,发生在本地文件层面。

机理值得展开。传统软件世界有一条铁律:代码可执行,文档不可执行,权限系统按这条边界设计。审计工具扫描语法树、查危险函数调用,都建立在「恶意逻辑必然以代码形式存在」的假设上。而 Agent 的工作方式是把读到的所有内容塞进同一个上下文,模型天然无法区分「这是给我的说明」和「这是给我的命令」。正如 Invariant Labs 在报告中点破的:这类攻击模糊了文本文档与可执行动作之间的界限 ①。

攻击链示意如下:

产业判断有三条。第一,供应链安全的定义被改写:过去查依赖包、查构建脚本,现在要查「所有会被 Agent 读的东西」,散文也能成为载荷。第二,审计工具面临换代,按代码逻辑找漏洞的工具,对一段自然语言完全无效。第三,治理动作要先落地:对外部仓库的指令文件要求显式确认、给指令内容分级标记、把「Agent 读了什么、执行了什么」写进不可变审计日志。(坊间流传一句戏谑——“过去投毒要写代码,现在写段话就够了”——此为安全圈内未经严格验证的说法,仅作情绪注脚,不作为事实依据。)

💸 105 个站点与 12 美元:攻击成本正在崩塌

当攻击变成批处理作业,防守的人力算式就作废了。

安全团队做预算时习惯按人力比算账:几个红队对几个蓝队,攻防双方都要发工资。下面两个案例,直接把这套算式拍在了沙滩上。

案例一:攻击者使用开源权重模型(open-weight models)发起一个攻击活动,一次性瞄准 105 个站点。案例二更刺眼 🎯:另一次攻击中,公共模型以 12 美元的成本,拿到了目标域名的完整控制权。12 美元,不够一顿像样的团建餐,但足以让一个域名易主。

“✍️ 编辑注(信源待补):以上两例在原素材中均未附原始报告出处。发布前请补充:报告全称、发布机构、发布时间与原文链接(例如来自哪家安全厂商的威胁报告或研究团队的公开披露),并在核实数字口径(“瞄准 105 个”与“成功攻陷 105 个”并非同一含义)后再行刊发。

这背后是攻击成本结构的质变。过去搞大规模攻击,要养僵尸网络、要人工编写和调试工具链、要租基础设施,边际成本随规模上升。现在,一次模型调用就是一次攻击尝试,攻击剧本一旦跑通,复制到第 100 个目标的边际成本趋近于零。模型费用是唯一变量——而这恰恰是最便宜的那部分。

更麻烦的是开源权重模型的不可封禁性。托管 API 可以审查用途、可以卡断违规调用,但权重一旦公开,攻击者就能在自己的基础设施上无限次调用:没有政策卡点,没有风控日志,没有审计线索。相关报告的结论也很直接——网络防御将不得不改变。(同上,此结论的原始出处随信源一并补充。)

产业结构层面的判断是:防守方没法在成本上与攻击方对决,只能改变博弈变量。追求「拦住每一次攻击」在这个时代不现实,可行路径是追求「让每一次攻击暴露的概率足够高」——蜜罐诱捕、行为基线、异常调用检测、速率与频次分析,本质都是把攻击者的试错过程转化为防守方的遥测数据。换句话说,别指望省钱,要指望每一美元防守投入都买回更多可见性。

🛡️ 微软的答案:给失控的 Agent 配一个 Guardian

平台厂商的安全叙事,从来都是把安全做进平台。

Agent 数量在企业内膨胀之后,一个新的安全问题浮出水面:这些 Agent 各自持有权限、各自调用工具、行为还不可完全预测——本质上,每个 Agent 都是一个潜在的内部威胁(insider threat)。这正是 微软 的切入点。

微软推出了 Project Perception,核心是引入 Guardian Agents:专门监控行为异常的 AI Agent,并在必要时加以遏制。押注方向也很明确——统一安全栈(unified security stack),把 Agent 安全做成平台的原生能力,而不是外挂产品。

“✍️ 编辑注(信源待补):截至目前,微软官方尚未就 Project Perception 发布正式公告。本节相关信息来自媒体报道(需补充:报道媒体名称、刊发时间与链接)。发布前建议改为「据 XX 媒体 XX 年 X 月报道」,并注明微软未官方证实。

这个思路并不新鲜,甚至是终端安全的老剧本:EDR 的逻辑就是「行为遥测 + 集中处置」。当年终端数量爆炸,逐一人工盯防不现实,于是把每台机器变成遥测数据源,由平台统一分析处置。今天的 Agent 只是复刻了这个过程:让每个 Agent 的读写、调用、外联都成为一等公民的安全事件,由 Guardian 层统一裁决。

有未经证实的坊间说法称(注意:以下为推测,非微软官方口径),微软内部并没有把 Project Perception 当作一个独立产品来定位,而是下一代安全栈的地基——若属实,它大概率会沿着「平台 + 安全全家桶」的老路铺开,与终端、身份、云安全能力打包销售。安全产业的分化也随之而来:一部分厂商做 Agent 遥测与检测,一部分做 Agent 身份与权限治理(这会是身份与访问安全的下一个主战场),一部分做处置编排。谁先把「Agent 行为数据」的接入标准立起来,谁就有机会成为这一层的事实标准。

但剧本相似,不代表结局相似。终端是确定性机器,行为异常都有迹可循;Agent 的行为由概率模型驱动,同一份输入可能产生不同输出。把 EDR 剧本套在 Agent 上,接下来的问题就来了。

⚠️ 用 Agent 管 Agent:收敛风险,还是复制风险?

谁审计审计者?🪆

安全研究社区对这一路线的警告很直白:用其他 Agent 去监管不可预测的 Agent,可能会放大风险,而不是收敛风险。(原素材中此判断出自未具名专家访谈,属研究者个人观点,非经同行评审的结论,读者宜自行评估。)拆开看,至少有三层问题。

第一层,递归攻击面。Guardian Agent 自己也是 Agent:它也要读上下文、也要调工具、也会被注入。上一节刚说过,一段 Markdown 就能操纵一个 Agent——那么操纵一个拥有处置权的监管 Agent,价值显然更大。攻击者骗过一个业务 Agent,影响一个任务;骗过监管 Agent,理论上等于拿到整个企业 Agent 舰队的处置权限。监管者成了最有价值的单点。

第二层,遏制即中断。监管 Agent 一旦判定某个业务 Agent 异常并采取遏制动作,业务连续性直接受影响。误报的商业代价可能比漏报更高——漏一次攻击是概率事件,停一条业务链路是确定事件。这让遏制策略天然趋于保守,而保守的监管又会给真实攻击留出窗口。

第三层,问责真空。监管 Agent 做了一个错误处置,导致业务中断或数据泄露,责任算谁的?算模型厂商、算部署企业、还是算那个「做出了错误判断」的 Agent?现有合规与审计框架没有现成答案。一线安全研究员中存在一种代表性担忧(个人观点,非定论):当监管链路本身也是 Agent,审计链条就出现了递归——你总得在某一点停下来,由人或确定性系统兜底。

把当前各类防御手段