来源节选(非本站原创长文,完整内容请见来源)
11月4日,在2026年世界互联网大会乌镇峰会“智能体互信互联互操作全球合作创新”论坛上,中国信息通信研究院、360、华为等企业及机构共同发布《智能体发展自律公约》(以下简称《自律公约》)。360作为核心发起单位之一,深度参与了公约的起草与发布。“智能体互信互联互操作全球合作创新”论坛当前,智能体正从“单点应用”加速迈向“多智能体协同”。但智能体在跨平台、跨系统交互时,其自身的权限越界、数据泄露、行为失控等安全隐患,成为阻碍其大规模落地的核心痛点。
为落实国家“强化行业自律”的任务部署,此次发布的《自律公约》共提出八条自律措施,重点聚焦健全智能体信任体系、提升安全防护能力、健全治理机制等关键议题。《自律公约》第四条对智能体安全防护提出了明确要求,这与360近年来“以模治模”的技术路线相契合。公约提出要“健全前瞻性风险评估、运行监测、行为管控、异常熔断等技术体系”。对此,360给出的解法是用AI来治理AI。
目前,360已构筑起“大模型安全”与“智能体安全”两道防线,专门应对AI系统的内生风险与外部攻击引发的越权操作和行为失控。特别是在智能体运行安全方面,360推出了专门的智能体安全防护与管理系统。该系统覆盖资产发现、行为管控、威胁检测、事件响应和损失恢复等环节。在运行过程中,系统不仅能对智能体、技能插件进行识别管理,还能对文件访问、命令执行等实施严格的“运行时管控”。结合安全大模型,系…
来源:雷峰网