开源与供应链🔥8.0
「Sleeper Agent」技术将恶意载荷隐藏在开放权重AI模型中
原标题: 「Sleeper Agent」技术将恶意载荷隐藏在开放权重AI模型中
📋总体概括
安全研究人员提出名为「Sleeper Agent」的攻击技术,将恶意载荷隐藏在开源权重AI模型中,仅需篡改神经网络约0.00001%的参数即可植入后门,普通用户下载和使用模型时几乎无法察觉。该研究揭示了开放权重模型分发模式下的新型供应链安全风险:模型文件看似可公开审查,但海量参数中极小比例的恶意改动足以逃脱常规检测,对Hugging Face等模型共享生态构成严峻挑战。
⚡关键信息
- ▸新攻击技术「Sleeper Agent」可将恶意载荷藏入开放权重AI模型
- ▸仅篡改神经网络0.00001%的参数即可实现后门植入
- ▸参数占比极小导致用户下载时几乎无法通过常规手段发现异常
- ▸开放权重模型的公开分发模式成为攻击面,类似软件供应链投毒
- ▸研究核心问题:面对海量参数,使用者无法有效验证模型是否被污染
🔥犀利点评
软件供应链投毒的老剧本,这次搬到了模型权重上。开源权重模型号称可审计,但千亿参数里藏0.00001%的恶意比特,人眼和现有扫描工具都是摆设——「开放」不等于「可信」。如果模型仓库不尽快建立权重签名、来源追溯和扫描机制,下一波供应链攻击大概率就从Hugging Face开始。AI生态正在重走npm/PyPI当年踩过的所有坑,而且这次连diff都看不了。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 DarkReading 阅读全文 →