AI 安全🔥7.0

专家观点|程学旗:新框架新变化 人工智能安全治理体系进一步深化

CN-Sec·2026/10/4 19:02:41🔗 原文

📋总体概括

中科院专家程学旗解读2026年9月14日发布的《人工智能安全治理框架3.0》。新版框架面向智能体(Agent)、开源大模型等新型技术形态带来的风险,在延续以往风险分类与技术应对思路的基础上进一步深化安全治理体系。这标志着我国AI安全治理从通用大模型风险管控,向智能体自治行为、开源生态等前沿场景延伸,为产业界提供了更具针对性的治理指引。

⚡关键信息

  • ▸《人工智能安全治理框架3.0》于2026年9月14日正式发布
  • ▸新版框架重点覆盖智能体、开源大模型等新型风险场景
  • ▸框架延续风险分类与技术应对的既有治理思路并深化
  • ▸程学旗作为专家对新框架的变化进行解读,指出治理体系进一步深化

🔥犀利点评

框架迭代到3.0,说明治理逻辑在跟着技术跑:大模型还没管明白,智能体和开源生态又冒出新风险。值得肯定的是从静态分类走向动态场景覆盖,但也要警惕框架沦为纸面合规——智能体的自主行为边界、开源模型的责任归属,这些硬骨头靠分类清单是啃不动的,关键看落地执行力和配套约束机制能否跟上。

本文由本站自动聚合,以下为原始来源:前往 CN-Sec 阅读全文 →