🏢 公司C档 · NaN分
一篇Markdown,撬开了AI代理的信任链
📋 总体概括
提示词注入从聊天框搬进了本地指令文件,开放权重模型让攻击边际成本趋近于零,微软则押注用Agent看守Agent。三条线索指向同一个结论:AI代理的信任边界必须重新划定,防御范式要从堵漏洞转向管身份。
📄 正文
AI代理最大的漏洞,不是代码,而是它太听话。
过去一周,安全圈的三条消息拼出了一幅完整的图景:提示词注入攻击从聊天框搬进了本地文档;开放权重模型把批量攻击的成本打到肉眼可见的低;微软则押上Project Perception,试图用Agent看守Agent。三件事看似独立,其实指向同一个命题——当文档、数据和指令在Agent的世界里不再有边界,防御范式必须重写。
⚠️ 一篇Markdown,是怎么变成命令的
安全研究员最近披露了一种针对编码类AI代理的提示词注入新手法,核心不在模型,而在一个被所有人默认安全的环节:本地指令文件。
场景很好还原。开发者习惯让编码助手读取仓库里的本地指令文件——那些用Markdown写的说明文档,告诉Agent项目怎么构建、代码什么风格。这是Agent工作流里最日常的一步,没有人会怀疑一份README。攻击者要做的,只是让一份看似普通的Markdown文档混进代理的上下文,文档里夹带精心构造的注入内容,Agent把文本读进来时,无法可靠区分哪句是给开发者的说明、哪句是给自己的命令。
这招的狠处在于攻击面的位移。传统Web安全的假设是:文档就是数据,代码才是可执行物。而编码类Agent把这个边界抹掉了——它消费文档的方式,和消费指令的方式高度同构。卡内基梅隆大学与浙江大学研究团队在2024年3月发布的《InjecAgent》论文(https
本文由本站 AI 辅助聚合生成,原始来源如下: