核心摘要: 2026年9月,全国网络安全标准化技术委员会正式发布《人工智能安全治理框架3.0》,在1.0、2.0版本基础上首次以附件形式专章发布《智能体风险管理框架》,系统梳理智能体全生命周期安全风险并提出七大类防范措施。此前2026年4月,中国信通院联合产学研用编制“智能体部署风险管理指南”,并依托中国人工智能产业发展联盟(AIIA)发布智能体服务风险管理能力基本要求。智能体安全治理由此从原则倡导进入能力落地阶段。
业务背景:智能体开始进入企业真实业务流
智能体不再只是演示工具,正逐步被接入营销触达、销售跟进、客服应答和经营管理等环节。一旦智能体开始调用工具、自主执行任务,它带来的就不只是效率问题,还有责任归属与风险控制问题。
过去企业谈AI安全,更多集中在数据合规和内容审核。智能体具备自主性之后,风险形态发生变化:它可能连续执行多步动作,出错时影响面更大,也更难在事后还原决策过程。
问题:原则倡导与能力落地之间的落差
在框架3.0之前,智能体安全治理更多停留在原则倡导层面,缺少针对全生命周期的结构化风险梳理。企业在实际部署时,往往不知道风险点分布在哪里,也难以判断供应商的能力是否达标。
这种落差直接体现在采购与验收环节:企业能问出“是否安全”,却很难问出“安全能力如何被验证”。
框架3.0落地了什么
2026年9月,全国网络安全标准化技术委员会正式发布《人工智能安全治理框架3.0》。该框架在1.0、2.0版本基础上与时俱进,首次以附件形式专章发布《智能体风险管理框架》。
这一专章系统梳理了智能体全生命周期安全风险,并提出七大类防范措施,标志着智能体安全治理从“原则倡导”迈入“能力落地”新阶段。
在框架发布之前,2026年4月,中国信通院联合产学研用编制“智能体部署风险管理指南”,并依托中国人工智能产业发展联盟(AIIA)发布智能体服务风险管理能力基本要求,为服务提供商加强安全风险管理能力提供引导。
对企业经营管理的意义
对把智能体用于营销、销售、客服和经营驾驶舱的企业来说,治理框架的价值在于提供了可对照的风险清单。企业可以据此判断哪些智能体环节需要人工介入、哪些输出需要留痕。
对服务提供商而言,风险管理能力正在成为可被检验的资质维度,这会逐步影响企业选型时的评估标准。
可复制动作:从清单到验收
第一步是盘点:梳理企业在用的智能体清单,标注其是否接触客户数据、是否对外输出内容、是否具备自主执行能力。
第二步是对照:以框架3.0的智能体全生命周期风险与七大类防范措施为参照,识别自身薄弱环节;在供应商评估中参考AIIA智能体服务风险管理能力基本要求。
第三步是兜底:在对外场景保留人工复核与操作留痕,确保智能体行为可追溯、可干预。以上为基于原文信息的建议,非案例事实。
关键依据
- 原文为鲸智社区技术文档,属鲸智动态分类,来源为中国信通院相关平台。
- 框架3.0发布时间为2026年9月,发布主体为全国网络安全标准化技术委员会。
- AIIA智能体服务风险管理能力基本要求发布时间为2026年4月,编制方为中国信通院联合产学研用。
- 原文未提供具体企业案例、实施步骤与效果数据,正文未编造相关内容。
- 涉及政策与治理议题,按规则标记为manual_review,不自动发布。
企业今天可以做什么
建议企业先做三件事:一是对照框架3.0的智能体全生命周期风险梳理自身在用的智能体清单,明确哪些环节涉及客户数据与对外输出;二是把AIIA智能体服务风险管理能力基本要求作为供应商评估的参考维度,在采购与验收中增加风险能力问询;三是在营销、客服等对外场景保留人工复核与留痕机制,避免智能体自主行为无人兜底。