AI写攻击代码,只要几分钟
📋 总体概括
OpenAI 披露一种新型加密绕过技术被用于模型蒸馏攻击,并点名 Moonshot AI 相关人员但未出示实证;同期美国一家零售商在手工攻击受阻后,靠 AI 生成脚本几分钟内完成横向移动。AI 攻防正在从辅助工具变成攻击主引擎,产业规则需要重写。
📄 正文
当手敲命令打不进去,攻击者让 AI 替他写——几分钟之后,防线被穿透了。
这不是科幻剧本。最近两件事几乎同时发生:OpenAI 披露了一起利用'新型'加密绕过技术发动的模型蒸馏攻击,并将部分环节指向中国公司 Moonshot AI 的关联人员,但没有给出可核验的证据;另一边,安全界流传的一个美国零售商入侵案例显示,攻击者在人工操作屡屡受挫后转向 AI 生成脚本,横向移动时间从'小时级'压缩到了'分钟级'。
两件事看似不相干,但指向同一个判断:AI 不再只是攻击者的'效率外挂',它正在成为攻击链的主引擎。而防御方、模型厂商、监管者,都还没准备好。
🤖 一起罕见的安全披露:厂商自己拆自己的台
安全公司披露漏洞很常见,但模型厂商披露'有人利用我们平台的安全机制绕过来偷我们的技术资产',并不常见。
OpenAI 这次披露的核心,是一种被其称为'novel'(新型)的加密绕过技术。所谓模型蒸馏攻击,通俗地说就是:攻击者通过大量调用目标模型,用输入输出对'喂'出一个自己的小模型,逼近大模型的能力——本质上是把别人花几十亿美元训练出来的模型能力,用推理账单的成本'抄'走。而这次的特殊之处在于,攻击 allegedly 涉及对某种加密保护机制的绕过,说明这不是简单的'多问几遍',而是带有明确技术门槛的攻击设计。
更微妙的是归因。OpenAI 称与 Moonshot AI 有关联的人员参与了部分攻击环节,但'未提供硬证据'。据 CyberScoop 报道,这一指控目前停留在'公司声明'层面,没有公开的 IOC(失陷指标)、日志样本或独立第三方验证。
业界的反应可以概括为一句话:指控可以,证据呢?
一位从事威胁情报的研究员私下表达过这类普遍情绪:厂商安全团队的归因,往往建立在自家平台账号、支付记录、调用模式这类'单边证据'上,而这类证据恰恰是无法被外部独立复核的。地缘叙事加持下的 AI 领域归因,更需要谨慎——被点名方否认成本低,指控方自证成本高。
这里的产业逻辑是:模型厂商既是受害者,也是裁判员。当 OpenAI 既是被攻击者、又是归因发布者、还是行业叙事的定义者时,这类披露的可信度结构是失衡的。对从业者而言,正确的读法是:技术细节值得研究,归因结论需要存疑。
⚡ 零售商案例:从'打不动'到'几分钟'
如果说蒸馏攻击代表 AI 被用来'偷 AI',那么美国零售商这个案例,代表 AI 正在被用来攻击所有企业。
场景还原一下:攻击者针对一家美国零售商发起入侵,前期手工输入的命令全部失败——这是常态,成熟企业的边界防御、权限控制和操作审计会挡住绝大多数'人肉'尝试。按传统剧本,攻击者此时应该回去调整工具、等待时机,攻防会陷入以天甚至周为单位消耗战。
但这次剧本改写了。攻击者转而使用 AI 生成的脚本,几分钟内就实现了横向移动(lateral movement)——也就是从已控制的单点,跳到内网中的其他主机。
这个过程里 AI 改变了什么?不是单点技术,而是迭代速度。传统攻击中,写一个绕过检测的脚本变体,可能需要攻击者数小时的手工调试;而 AI 可以在几秒内生成多个变体,每一个都轻微偏离已知特征库。防御方基于签名和规则的检测体系,天然追不上这种生成速度。
换言之,攻防双方的时间常数发生了量级变化:防御侧的安全运营中心(SOC)响应以分钟到小时计,攻击侧的脚本迭代以秒计。当攻击的迭代周期短于防御的响应周期,规则的攻防就变成了不对等的攻防。
这个零售商案例真正的警示不是'AI 攻击很可怕',而是:企业现有的检测假设——攻击者动作慢、工具特征稳定、变体有限——已经全部失效。
📊 蒸馏攻击背后:AI 供应链的安全暗面
蒸馏攻击值得单独拆一节,因为它触及 AI 产业最核心的资产:模型本身。
传统软件时代,核心资产是代码,靠版权和商业秘密保护;云时代,核心资产是数据,靠加密和访问控制保护;AI 时代,核心资产变成了模型权重和模型能力——而后者恰恰是最难定义、也最难保护的。模型能力不是一份可以加密存放的文件,它是通过每一次 API 调用'泄漏'出去的。
从上面这张图能看出行业尴尬所在:技术门槛高、商业价值高的保护手段(如权重加密、投毒检测)大多还不成熟,而成熟手段(限流、审计、合同约束)只能挡住'君子'。这次 OpenAI 披露的'加密绕过',说明厂商已经意识到这个问题并部署了加密类防护——但防护本身又被绕过了。
这也是一次罕见的安全攻防'代际标本':AI 公司把传统软件的保密思路(加密、访问控制)移植到模型能力保护上,攻击者则用同样传统的方式(绕过加密)回应。保护对象是新的,攻防手法是旧的,这才是蒸馏攻击最值得玩味的地方。
对整个 AI 产业链而言,这意味着一个新的攻击面类别正式出现:针对模型知识产权的攻击,会催生一类新的安全需求——模型水印、调用行为异常检测、蒸馏痕迹取证。这是未来三到五年 AI 安全市场里确定性较强的增量。
⚖️ 归因困局:没有证据的指控,伤害的是整个行业
回到 Moonshot AI 被点名这件事。抛开地缘情绪,这件事暴露的是威胁情报行业的结构性问题。
传统的归因链条是这样的:攻击发生 → 取证分析 → 提取 IOC 和 TTP(战术、技术与流程)→ 与历史攻击集比对 → 给出置信度分级的归因结论。每一步都可被第三方检验。而厂商平台方的归因,往往是:我们平台上出现了异常账号 → 账号注册信息和支付信息指向某公司 → 归因成立。这条链条上,攻击技术细节和身份归属之间缺少可公开验证的桥梁。
这不是说 OpenAI 的指控一定是错的——事实上,业内普遍认为模型平台确实面临系统性的蒸馏滥用,来自各方的'能力窃取'尝试真实存在。问题在于指控的标准。当头部厂商可以不经证据公示就点名一家公司,而媒体和监管倾向于采信头部厂商的说法时,整个行业的归因门槛就被拉低了。
一个可能的良性走向是:AI 领域逐步形成类似漏洞披露的'负责任归因'规范——厂商可以披露攻击技术与防御措施,但涉及第三方主体的指控应附上可核验的证据等级说明,或移交独立机构复核。在此之前,对每一次'厂商点名',从业者都应该默认追问一句:证据在哪一级?
🛡️ 防御视角:企业现在该做什么
两起事件对一线防御者的启示,可以落到很具体的动作上。
第一,重新校准检测假设。 零售商案例说明,攻击者可以在分钟级生成无限变体,签名检测的权重应该下调,行为检测(异常的横向探测模式、非常规的认证链路)的权重应该上调。AI 生成的脚本再怎么变,其'行为形状'——探测顺序、权限跃迁路径——是相对稳定的。
第二,把 AI 纳入攻击面管理。 大多数企业的资产清单里还没有'模型调用链'这一项。谁在调用你的 API、调用量是否有基线、输出是否可能被批量抽取用于蒸馏——这些应该进入威胁建模的常规项。
第三,对情报保持分级采信的习惯。 厂商披露的安全事件,技术部分通常可信(他们有最完整的一手数据),归因部分需要打折(存在商业与叙事动机)。这个习惯,在 AI 时代的地缘环境下只会越来越重要。
值得一提的是,防御侧同样可以用 AI 反制——用模型来识别 AI 生成的攻击变体、用行为模型来发现蒸馏式的调用模式。攻防双方都在'用魔法打魔法',最终比拼的是谁的迭代闭环更快、数据更多。
小结:规则改写进行时
两起事件合起来看,结论其实很冷峻:AI 已经从攻击链的辅助工具升级为主引擎——蒸馏攻击瞄准的是 AI 产业的核心资产本身,AI 生成脚本则把企业攻防的时间常数压缩了一个量级。而 OpenAI 点名 Moonshot AI 却不出示证据这件事提醒我们,这个新兴领域的归因标准、情报规范、防御假设,全都还在草稿状态。接下来的一年,值得盯住的信号有三个:模型厂商是否会公开可核验的攻击证据、AI 原生的检测产品能否在实战中证明对生成式变体的拦截率、以及监管是否会介入'AI 知识产权攻击'的定性。规则改写已经开始,只是改写的笔,目前还握在攻击者和叙事者手里。
本文由本站 AI 辅助聚合生成,原始来源如下: